Alrededor de dos de cada tres alemanes usan chatbots o asistentes de voz impulsados por IA al menos una vez por semana. Para las empresas, es importante tener en cuenta que muchos alemanes utilizan la IA específicamente para buscar productos y servicios.

Dicho esto, muchos clientes aún quieren la opción de contactar a personas reales para obtener ayuda durante sus compras en línea, especialmente si surgen complicaciones. Según Bitkom —la asociación digital central de Alemania—, solo el 36 % de los compradores desea recibir asesoramiento de los chatbots cuando se topan con problemas, como la falta de confirmaciones de pedidos o entregas tardías. Esto demuestra que los chatbots con respuestas preconfiguradas frecuentemente tienen una utilidad limitada.

Los asistentes de compras con IA podrían ayudar con este problema. Ofrecen más que las simples funciones de servicio al cliente de los chatbots tradicionales y están creando nuevas oportunidades para el comercio minorista en línea. En este artículo, explicamos qué son los asistentes de compras con IA, incluyendo cómo funcionan y qué regulaciones legales se aplican en Alemania y en la UE. También explicamos quién es responsable de las decisiones de compra impulsadas por IA y cuáles son los requisitos en términos de protección del consumidor y autorización de pagos automatizada.

Puntos clave

• Los asistentes de compras con IA personalizan las compras en línea y tienen muchas más capacidades que los chatbots tradicionales.
  
• La Ley de IA de la UE, las leyes de comercio electrónico del Reglamento General de Protección de Datos (RGPD) y la ley nacional alemana contienen regulaciones integrales sobre el uso de asistentes de compras con IA.
  
• Las tiendas en línea deben informar a los clientes sobre las interacciones impulsadas por IA y cómo funcionan proporcionando información coherente y transparente.
  
• La responsabilidad por las recomendaciones o compras incorrectas generalmente recae en el comerciante minorista en línea que utiliza el sistema de IA.
  
• Los procesos de compra y pago impulsados por IA requieren mecanismos de control legales y técnicos claros.
  

Qué es un asistente de compra con IA

Un asistente de compra con IA es un agente inteligente y consciente del contexto que guía a los clientes a través de todo el proceso de compra en un sitio web o una aplicación. A diferencia de los chatbots tradicionales, que se basan en guiones fijos y preguntas frecuentes estáticas, los asistentes con IA ofrecen recomendaciones personalizadas, pueden preparar o realizar acciones y proporcionan asistencia posterior a la compra.

Cómo funcionan los asistentes de compra con IA

Los asistentes de compra con IA analizan el comportamiento del cliente en tiempo real. Capturan las preferencias, sugieren productos adecuados y responden preguntas durante el proceso de compra. También reaccionan a situaciones específicas, en lugar de solo proporcionar respuestas preconfiguradas.

Sin embargo, hacen más que solo asesorar a los clientes. También pueden hacer recomendaciones de productos basadas en el historial de compras, brindar soporte a los clientes durante la confirmación de compra y proporcionar asistencia después de las compras.

Asistentes de compra con IA del comerciante minorista

Los comerciantes minoristas en línea de Alemania pueden implementar asistentes de compra con IA directamente en sus sitios web o aplicaciones. Estos asistentes pueden aprender del catálogo de productos del comerciante minorista, de los chats anteriores, de las reseñas de los clientes y mucho más. Esto significa que pueden reaccionar a las solicitudes de manera proactiva, adaptándose al contexto específico y entablando un diálogo, en lugar de limitarse a guiones rígidos.

Los asistentes de compra con IA también guían a los clientes a través de las diferentes fases del proceso de compra, desde identificar qué quieren comprar hasta brindarles soporte después de sus compras. El objetivo es que la experiencia de compra sea más personalizada y eficiente para fortalecer la lealtad del cliente e impulsar las ventas. También pueden aliviar la carga de trabajo de los equipos internos de servicio de atención al cliente.

Asistentes de compra con IA genéricos

Es importante hacer una distinción entre los asistentes con IA implementados por comerciantes minoristas específicos y los asistentes genéricos que utilizan los clientes. Los compradores utilizan asistentes genéricos para buscar ofertas en toda la web. Si bien estos asistentes son atractivos en teoría, también presentan desafíos, como problemas de fiabilidad, seguridad de los pagos y acceso restringido a muchos sitios web.

Normas de Alemania y de la UE sobre aplicaciones de inteligencia artificial en el comercio electrónico

El uso de sistemas de inteligencia artificial está muy regulado. Además de las reglas existentes en virtud de la legislación sobre el comercio electrónico de la UE, la inteligencia artificial debe cumplir requisitos adicionales en virtud de la legislación sobre protección de datos, la legislación nacional alemana y la Ley de Inteligencia Artificial de la UE.

Ley de Inteligencia Artificial de la UE

El principal pilar de la regulación de la inteligencia artificial en la UE es el Reglamento (UE) 2024/1689, también conocido como la «Ley de Inteligencia Artificial de la UE». Este es el primer marco legal unificado para sistemas de inteligencia artificial en la UE. El trabajo en la Ley de Inteligencia Artificial de la UE comenzó en 2019. Los Estados miembros de la UE lo aprobaron en mayo de 2024 y se publicó en el Diario Oficial de la Unión Europea el 12 de julio de 2024.

Según el artículo 113, la Ley de Inteligencia Artificial se aplicará a partir del 2 de agosto de 2026. Sin embargo, ya se han promulgado algunos capítulos y secciones: el primero de ellos el 2 de febrero de 2025 y luego el 2 de agosto de 2025. Sin embargo, el Consejo Europeo y el Parlamento Europeo acordaron una enmienda a la Ley de Inteligencia Artificial de la UE en marzo de 2026, con el fin de simplificar algunas de las disposiciones y ampliar algunos plazos.

La ley adopta un enfoque basado en el riesgo y diferencia entre prácticas de inteligencia artificial prohibidas, sistemas de alto riesgo y aplicaciones de riesgo mínimo. Una de las disposiciones clave es el artículo 5, que enumera las prácticas de inteligencia artificial prohibidas. Estas incluyen los sistemas de inteligencia artificial que utilizan técnicas engañosas o de manipulación para hacer que los clientes tomen decisiones que les causen daños importantes a ellos o a otras personas.

En el contexto de las tiendas en línea, esto significa que los asistentes de compras basados en inteligencia artificial no deben manipular deliberadamente a los clientes ni emplear técnicas engañosas para forzarlos a tomar decisiones que de otro modo no habrían tomado.

Directiva sobre comercio electrónico

Además de esta nueva ley, los comerciantes minoristas en línea también están sujetos a la legislación sobre comercio electrónico de la UE. Por ejemplo, las empresas alemanas están sujetas a la Directiva sobre comercio electrónico de la UE (Directiva 2000/31/CE). Este es el marco legal básico para el comercio electrónico en la UE. La directiva contiene regulaciones sobre las obligaciones de los proveedores de servicios digitales en materia de información, transparencia y responsabilidad.

Más tarde, se complementó con la Ley de Servicios Digitales (Reglamento (UE) 2022/2065), que establece requisitos adicionales para las plataformas digitales.

Ley de Servicios Digitales (DDG)

En Alemania, la legislación sobre comercio electrónico de la UE se complementa con la DDG. La DDG adoptó regulaciones clave de la anterior Ley de Telemedios de Alemania y contiene normas sobre la identificación de proveedores, los avisos legales y otras responsabilidades para los proveedores de servicios digitales.

Regulaciones del derecho civil

Los modelos de negocio basados en inteligencia artificial también pueden estar sujetos a normas generales del derecho civil en Alemania. En particular, esto incluye las disposiciones sobre responsabilidad establecidas en el Código Civil Alemán (BGB), como el incumplimiento del deber (artículo 280) y la responsabilidad civil extracontractual (artículo 823). Los clientes pueden presentar reclamaciones por daños si los sistemas de inteligencia artificial se implementan de forma incorrecta o si proporcionan resultados incorrectos.

Qué normativas de protección de datos se aplican a las tiendas en línea que usan IA

Los sistemas de IA usados en el comercio electrónico suelen procesar información personal identificable. Por lo tanto, las normativas de protección de datos —en particular el Reglamento General de Protección de Datos (RGPD)— desempeñan una función clave en la implementación de asistentes de compra con IA. Entre los puntos de datos importantes se incluyen los nombres, la información de contacto, los historiales de pedidos, el comportamiento del cliente, los datos de ubicación y las preferencias de los clientes particulares.

Base legal de procesamiento

El Reglamento General de Protección de Datos (RGPD) solo permite el procesamiento de información personal identificable que se realiza de manera legal. Una de las bases legales clave es el procesamiento llevado a cabo para la ejecución de un contrato, de acuerdo con el artículo 6 del RGPD. El procesamiento también puede basarse en intereses legítimos.

En algunos casos, el procesamiento requiere el consentimiento explícito del titular de datos. Por ejemplo, es necesario el consentimiento explícito si la información personal identificable se procesa con fines de personalización o seguimiento, y estos propósitos no son estrictamente necesarios para la ejecución de un contrato de compra.

Personalización y elaboración de perfiles

Con los asistentes de compra con IA, la principal inquietud sobre la protección de datos es el análisis personalizado del comportamiento del cliente. Las empresas que evalúan los historiales de compras, las consultas de búsqueda o el comportamiento de los clics para generar recomendaciones de productos particulares deben cumplir con los principios de minimización de datos, de limitación de la finalidad y de transparencia. Se les debe informar claramente a los clientes sobre qué datos se procesan y con qué propósito.

El uso de sistemas de IA también puede constituir la elaboración de perfiles, según el artículo 4, núm. 4 del RGPD. Esto se aplica a la evaluación automatizada de intereses personales, preferencias y hábitos de compra. Las empresas que realizan este tipo de análisis a gran escala pueden estar sujetas a requisitos de información adicionales o a la obligación de llevar a cabo evaluaciones de impacto sobre la protección de datos, de conformidad con el artículo 35 del RGPD.

Seguridad de los datos y medidas técnicas

Los comerciantes minoristas en línea deben asegurarse de que la información personal identificable esté protegida adecuadamente. El artículo 32 del RGPD exige que las empresas tomen las medidas técnicas y organizativas adecuadas para mantener los datos a salvo. Entre estas medidas se incluyen las restricciones de acceso, el cifrado, las políticas de eliminación de datos y las auditorías de seguridad periódicas de los sistemas de IA utilizados.

Quién es el responsable de las decisiones de compra automatizadas

El uso de asistentes de compra con IA plantea la pregunta de quién es el responsable de las recomendaciones defectuosas, la información incorrecta de los productos o las pérdidas financieras. En el derecho civil, se aplica el principio general de responsabilidad basado en las áreas de responsabilidad: no es la IA en sí misma la que es responsable, sino los particulares o las empresas que están detrás de ella.

Comerciantes minoristas en línea

En la práctica, los comerciantes minoristas en línea que integran asistentes de compra con IA en sus tiendas suelen ser los principales responsables. Son los socios contractuales de los clientes. Por lo tanto, deben asegurarse de que los sistemas operen de manera legal y según lo previsto. Si las recomendaciones incorrectas provocan daños, puede aplicarse la responsabilidad contractual en virtud de la Sección 280 del BGB, siempre que el comerciante minorista haya incumplido una obligación en virtud del contrato de venta.

El comerciante minorista también debe ser considerado responsable del comportamiento del sistema utilizado. La IA puede clasificarse como «personas utilizadas para cumplir las obligaciones [del deudor]», en el sentido de la Sección 278 del BGB. Por lo tanto, los errores cometidos por la IA tienen las mismas consecuencias legales que los errores cometidos por la propia empresa.

Fabricantes y desarrolladores

Además del comerciante minorista, el fabricante o el desarrollador del sistema de IA también puede ser responsable. Si el daño resulta de un defecto técnico, puede aplicarse la responsabilidad por el producto en virtud de la Ley de Responsabilidad por Productos de Alemania (ProdHaftG). Las condiciones son que se haya introducido un producto defectuoso en el mercado y que esto haya provocado lesiones personales o daños a la propiedad.

Además, la responsabilidad extracontractual en virtud de la Sección 823 del BGB puede aplicarse si se incumplieron los deberes de cuidado. Esto incluye una seguridad inadecuada o controles de riesgo insuficientes en el diseño del sistema.

Responsabilidad por decisiones automatizadas

La responsabilidad es particularmente compleja en el caso de decisiones de compra totalmente automatizadas, como cuando los sistemas de IA seleccionan productos o realizan pedidos de forma independiente como parte del comercio agéntico. En tales casos, el principio legal clave es que la responsabilidad recae en el operador del sistema, ya que este inicia y controla el uso de la IA.

Las disposiciones pertinentes incluyen el artículo 22 del RGPD, que regula la toma de decisiones particulares automatizadas. Cuando se toman decisiones que tienen un efecto legal o que perjudican significativamente a los clientes, las empresas están sujetas a requisitos especiales de seguridad e información. El cliente en cuestión también puede tener derecho a la intervención humana.

¿Puede el uso de IA excluir a los comerciantes minoristas de responsabilidad?

En principio, la ley de la UE no permite que la responsabilidad se excluya por completo debido al uso de la IA. El RGPD y el derecho civil no permiten que la responsabilidad se asigne únicamente a un sistema automatizado. Por lo tanto, incluso cuando utilizan asistentes de compra altamente automatizados, las empresas siguen siendo legalmente responsables de su uso, de su entrenamiento y de sus resultados.

¿Cuáles son los requisitos para la protección del consumidor en las tiendas en línea que usan inteligencia artificial?

Además de las leyes de inteligencia artificial y de protección de datos, los asistentes de compras con inteligencia artificial también están sujetos a las regulaciones de la legislación de protección del consumidor de la UE. El objetivo es que los clientes puedan acceder a información transparente y tomar decisiones libres e informadas, incluso durante los procesos de compra basados en inteligencia artificial.

Requisitos de información en el comercio minorista en línea

Los requisitos de información en virtud del artículo 5 de la Directiva sobre comercio electrónico y la Directiva sobre los derechos de los consumidores 2011/83/UE son importantes. Las tiendas en línea deben proporcionar información clave, como la identificación de la empresa, el precio del producto, las características del producto y las condiciones, de manera clara y comprensible.

En el caso de los sistemas de inteligencia artificial, las respuestas del chat y las recomendaciones no pueden sustituir estos requisitos de información. Un asistente de inteligencia artificial puede transmitir información, pero sigue siendo responsabilidad legal del operador de la tienda que esta información esté completa, sea comprensible y esté accesible.

Prohibición de prácticas comerciales engañosas

Los artículos 5 y 6 de la Directiva 2005/29/CE prohíben las prácticas comerciales desleales y las acciones engañosas. El principal problema para las tiendas en línea que usan inteligencia artificial es que las recomendaciones, las clasificaciones y la información de precios deben estar orientadas a los intereses de la tienda de una manera que no sea manipuladora ni se oculte. Los clientes deben poder identificar las configuraciones previas automatizadas o las priorizaciones, si estas afectan al comportamiento de compra.

Transparencia en las recomendaciones de la inteligencia artificial

La transparencia también desempeña un papel importante. El artículo 50 de la Ley de Inteligencia Artificial de la UE, que establece requisitos de transparencia para determinados sistemas de inteligencia artificial, es especialmente relevante para los asistentes de compras con inteligencia artificial. Según este artículo, por lo general se debe informar a los clientes cada vez que interactúen con un sistema de inteligencia artificial. Por lo tanto, las tiendas en línea que usan chatbots basados en inteligencia artificial o asistentes de compras con inteligencia artificial deben dejar claro a los clientes que ya no se comunican con personas reales.

¿Cuáles son los requisitos para la autorización de pagos y las transacciones basadas en inteligencia artificial?

El uso de asistentes de compras con inteligencia artificial implica que las decisiones de compra las toman cada vez más sistemas autónomos o semiautónomos, y no los clientes. Esto exige un reexamen de las medidas de seguridad legales y técnicas en torno a la autorización de pagos.

Base legal para la autorización de pagos

Los pagos en el comercio electrónico están sujetos a las disposiciones de la Directiva sobre servicios de pago (PSD2) de la UE 2015/2366. Según el artículo 64 de la PSD2, por lo general, cada pago requiere la autorización efectiva del pagador. Sin embargo, esta autorización también puede darse una vez que se haya ejecutado la transacción. El consentimiento para una o más transacciones de pago se da en la forma acordada entre el pagador y el proveedor de servicios de pago (PSP).

En consecuencia, los asistentes de compras con inteligencia artificial no pueden activar transacciones de pago vinculantes desde el punto de vista legal sin la autoridad suficiente. Según la PSD2, estas transacciones deben autorizarse antes o después de la compra.

Interfaces de programación de aplicaciones (API) de pago para asistentes de compras con inteligencia artificial

Los asistentes de compras con inteligencia artificial también requieren API estandarizadas para poder interactuar de forma segura con los sistemas de la tienda y de pago. Los PSP como Stripe proporcionan API para este fin.

Stripe Payments y Stripe Billing te permiten activar y procesar transacciones de manera automática. Stripe también está desarrollando controles de acceso diferenciados que establecen qué productos o métodos de pago puede usar un asistente de compras con inteligencia artificial y qué acciones requieren confirmación adicional.

Mecanismos de control y mitigación de riesgos

Desde una perspectiva legal, la interacción de la legislación sobre pagos, el derecho contractual y la seguridad de la tecnología de la información (TI) requiere medidas de seguridad adicionales. Entre ellas, se incluyen las siguientes:

• Límites de presupuesto para compras automatizadas
  
• Aprobación o confirmación obligatoria para determinadas transacciones
  
• Alcance y duración limitados de las autorizaciones
  
• Opciones para el derecho de desistimiento o el bloqueo de procesos automatizados
  

Estos mecanismos implementan los requisitos para el consentimiento válido en virtud de la PSD2, así como los principios de protección de datos y seguridad de los pagos en virtud del artículo 32 del Reglamento General de Protección de Datos (RGPD).

Comercio agéntico

En el comercio agéntico, la función del proceso de pago pasa cada vez más de ser una acción humana activa a ser una decisión delegada y basada en reglas que toma un sistema de inteligencia artificial. Sin embargo, la responsabilidad final sigue recayendo en el cliente o en la empresa que implementa el asistente de inteligencia artificial.

Preguntas frecuentes sobre los asistentes de compra con IA en Alemania

A continuación, proporcionamos las respuestas a las preguntas más frecuentes sobre la IA en las compras personalizadas y los asistentes de compra con IA en Alemania.