Aproximadamente dos de cada tres alemanes utilizan chatbots o asistentes de voz con IA al menos una vez a la semana. Para las empresas, es importante tener en cuenta que muchos alemanes utilizan la IA específicamente para buscar productos y servicios.

Dicho esto, muchos clientes todavía quieren tener la opción de ponerse en contacto con personas reales para obtener asistencia durante sus compras en línea, especialmente si surgen complicaciones. Según Bitkom, la principal asociación digital de Alemania, solo el 36 % de los compradores quiere recibir asesoramiento de chatbots cuando se encuentran con problemas, como la falta de confirmación de un pedido o retrasos en las entregas. Esto demuestra que los chatbots con respuestas preconfiguradas suelen tener una utilidad limitada.

Los asistentes de compras con IA podrían ayudar a resolver este problema. Ofrecen más que las simples funciones de atención al cliente de los chatbots tradicionales y están creando nuevas oportunidades para el comercio minorista en línea. En este artículo, explicamos qué son los asistentes de compras con IA, incluido cómo funcionan y qué normativas jurídicas se aplican en Alemania y en la UE. También explicamos quién es el responsable de las decisiones de compra impulsadas por la IA y cuáles son los requisitos en términos de protección del consumidor y autorización de pagos automatizada.

Conclusiones principales

• Los asistentes de compras con IA personalizan las compras en línea y tienen muchas más capacidades que los chatbots tradicionales.
  
• La Ley de Inteligencia Artificial de la UE, las leyes de comercio electrónico del Reglamento General de Protección de Datos (RGPD) y la legislación nacional alemana contienen normativas exhaustivas sobre el uso de asistentes de compras con IA.
  
• Las tiendas en línea deben informar a los clientes sobre las interacciones con IA y su funcionamiento proporcionando información coherente y transparente.
  
• La responsabilidad de las recomendaciones o compras incorrectas suele recaer en el comerciante en línea que utiliza el sistema de IA.
  
• Los procesos de compra y pago impulsados por IA requieren mecanismos de control técnicos y jurídicos claros.
  

¿Qué es un asistente de compras con IA?

Un asistente de compras con IA es un agente inteligente y consciente del contexto que guía a los clientes a lo largo de todo el proceso de compra en un sitio web o aplicación. A diferencia de los chatbots tradicionales (que están establecidos en guiones fijos y preguntas frecuentes estáticas), los asistentes con IA ofrecen recomendaciones personalizadas, pueden preparar o realizar acciones y proporcionar asistencia después de la compra.

¿Cómo funcionan los asistentes de compras con IA?

Los asistentes de compras con IA analizan el comportamiento de los clientes en tiempo real. Capturan las preferencias, sugieren productos adecuados y responden a las preguntas durante el proceso de compra. También reaccionan ante situaciones específicas, en lugar de ofrecer simplemente respuestas preconfiguradas.

Sin embargo, hacen algo más que asesorar a los clientes. También pueden hacer recomendaciones de productos establecidas en el historial de compras, ayudar a los clientes durante el proceso de compra y ofrecer asistencia después de las compras.

Asistentes de compras con IA de minoristas

Los minoristas online de Alemania pueden implementar asistentes de compras con IA directamente en sus sitios web o aplicaciones. Estos asistentes pueden aprender del catálogo de productos del minorista, los chats anteriores, las reseñas de los clientes y mucho más. Esto significa que pueden reaccionar a las solicitudes de forma proactiva, adaptarse al contexto específico y entablar un diálogo, en lugar de ceñirse a guiones rígidos.

Los asistentes de compras con IA también guían a los clientes a través de las diferentes fases del proceso de compra, desde la identificación de lo que quieren comprar hasta el soporte que se les ofrece después de las compras. El objetivo es que la experiencia de compra sea más personalizada y eficiente para reforzar la fidelidad de los clientes y aumentar las ventas. Además, pueden aligerar la carga de trabajo de los equipos internos de atención al cliente.

Asistentes de compras con IA genéricos

Es importante establecer una distinción entre los asistentes de IA implementados por minoristas específicos y los asistentes genéricos que utilizan los clientes. Los compradores utilizan asistentes genéricos para buscar ofertas en toda la web. Aunque estos asistentes resultan atractivos en teoría, también plantean problemas de fiabilidad, de seguridad de los pagos y un acceso de forma restringida a muchos sitios web.

Normativas de Alemania y la Unión Europea sobre aplicaciones de IA en el comercio electrónico

El uso de sistemas de IA está altamente regulado. Además de las reglas existentes en virtud de la legislación de comercio electrónico de la Unión Europea, la IA debe cumplir requisitos adicionales en virtud de las leyes de protección de datos, la legislación nacional de Alemania y la Ley de Inteligencia Artificial (Ley de IA) de la Unión Europea.

Ley de Inteligencia Artificial de la UE

El pilar principal para la regulación de la IA en la Unión Europea es el Reglamento de la UE 2024/1689, también conocido como la «Ley de IA de la UE». Este es el primer marco jurídico unificado para los sistemas de IA en la UE. El desarrollo de la Ley de IA de la UE se inició en 2019. Se aprobó en mayo de 2024 por los Estados miembros de la UE y se publicó en el Diario Oficial de la Unión Europea el 12 de julio de 2024.

De acuerdo con el artículo 113, la Ley de IA comenzará a aplicarse a partir del 2 de agosto de 2026. Sin embargo, algunos capítulos y secciones ya han entrado en vigor (primero el 2 de febrero de 2025 y luego el 2 de agosto de 2025). No obstante, en marzo de 2026, el Consejo Europeo y el Parlamento Europeo acordaron una enmienda a la Ley de IA de la UE con la intención de simplificar algunas de las disposiciones y ampliar algunos plazos.

La ley adopta un enfoque basado en los riesgos para diferenciar entre las prácticas de IA prohibidas y los sistemas de alto riesgo y de riesgo mínimo. Una de las disposiciones clave es el artículo 5, que enumera las prácticas de IA prohibidas. Entre ellas, se incluyen sistemas de IA que emplean técnicas manipuladoras o engañosas para incitar a los clientes a tomar decisiones que provoquen daños significativos para sí mismos u otras personas.

En el contexto de las tiendas en línea, esto implica que los asistentes de compras impulsados por IA no deben manipular deliberadamente a los clientes ni utilizar técnicas engañosas para forzarlos a tomar decisiones que no habrían tomado de otra manera.

Directiva sobre comercio electrónico

Además de esta nueva ley, los minoristas en línea también están sujetos a la legislación de la UE en materia de comercio electrónico. Por ejemplo, las empresas de Alemania están sujetas a la Directiva sobre comercio electrónico de la UE (Directiva 2000/31/CE). Este es el marco jurídico básico para el comercio electrónico en la Unión Europea. La directiva contiene normativas sobre los deberes de información, transparencia y responsabilidad de los proveedores de servicios digitales.

Posteriormente, se complementó con la Ley de Servicios Digitales (Reglamento de la UE 2022/2065), que establece requisitos adicionales para las plataformas digitales.

Ley de Servicios Digitales (DDG)

En Alemania, la legislación de la UE sobre comercio electrónico se complementa con la DDG. La DDG adoptó normas clave de la anterior Ley de medios de telecomunicación alemana e incluye normativas sobre la identificación de los proveedores, los avisos legales y otras responsabilidades para los proveedores de servicios digitales.

Regulaciones de derecho civil

Los modelos de empresa basados en la IA también pueden estar sujetos a las regulaciones generales de derecho civil en Alemania. En concreto, esto incluye las disposiciones sobre la responsabilidad establecidas en el Código Civil alemán (BGB), como el incumplimiento del deber (artículo 280) y la responsabilidad (artículo 823). Los clientes pueden reclamar daños y perjuicios si los sistemas de IA se despliegan indebidamente o arrojan resultados incorrectos.

¿Qué normativas de protección de datos se aplican a las tiendas online que utilizan IA?

Los sistemas de IA que se utilizan en el comercio electrónico procesan habitualmente información de identificación personal. Por lo tanto, las normativas de protección de datos (en particular, el Reglamento General de Protección de Datos (RGPD)) desempeñan una función fundamental en la implementación de los asistentes de compras con IA. Entre los datos importantes se incluyen los nombres, los datos de contacto, los historiales de pedidos, el comportamiento de los clientes, los datos de ubicación y las preferencias individuales de los clientes.

Base de licitud del proceso

El Reglamento General de Protección de Datos (RGPD) solo permite el procesamiento de la información de identificación personal que se realice de forma lícita. Una de las principales bases de licitud es el procesamiento que se lleva a cabo para la ejecución de un contrato, de acuerdo con el artículo 6 del Reglamento General de Protección de Datos (RGPD). El proceso también puede estar establecido en intereses legítimos.

En algunos casos, el proceso requiere el consentimiento explícito del interesado. Por ejemplo, es necesario obtener el consentimiento explícito si se procesa información de identificación personal con fines de personalización o seguimiento, y estos fines no son estrictamente necesarios para la ejecución de un contrato de compra.

Personalización y elaboración de perfiles

Con los asistentes de compras con IA, la principal preocupación en materia de protección de datos es el análisis personalizado del comportamiento de los clientes. Las empresas que evalúan los historiales de compras, las consultas de búsqueda o el comportamiento de los clics para generar recomendaciones de productos individuales deben respetar los principios de minimización de datos, limitación de la finalidad y transparencia. Se debe informar claramente a los clientes sobre qué datos se procesan y con qué finalidad.

El uso de sistemas de IA también puede constituir una elaboración de perfiles, según el artículo 4, apartado 4, del Reglamento General de Protección de Datos (RGPD). Esto se aplica a la evaluación automatizada de los intereses personales, las preferencias y los hábitos de compra. Las empresas que realizan este tipo de análisis a escala pueden estar sujetas a requisitos de información adicionales o a la obligación de llevar a cabo evaluaciones de impacto relativas a la protección de datos, de conformidad con el artículo 35 del Reglamento General de Protección de Datos (RGPD).

Seguridad de los datos y medidas técnicas

Los minoristas online deben asegurarse de que la información de identificación personal esté protegida de forma adecuada. El artículo 32 del Reglamento General de Protección de Datos (RGPD) exige que las empresas adopten las medidas técnicas y organizativas adecuadas para mantener los datos seguros. Estas medidas incluyen restricciones de acceso, cifrado, políticas de eliminación de datos y auditorías de seguridad periódicas de los sistemas de IA utilizados.

¿Quién es el responsable de las decisiones de compra automatizadas?

El uso de asistentes de compras con IA plantea la cuestión de quién es el responsable de las recomendaciones defectuosas, la información incorrecta sobre los productos o las pérdidas financieras. En el derecho civil, se aplica el principio general de responsabilidad establecido en los ámbitos de responsabilidad: la IA no es la responsable, sino los particulares o las empresas que la respaldan.

Minoristas en línea

En la práctica, los minoristas online que integran asistentes de compras con IA en sus tiendas suelen ser los principales responsables. Son los socios contractuales de los clientes. Por lo tanto, deben asegurarse de que los sistemas funcionen de forma lícita y según lo previsto. Si las recomendaciones incorrectas provocan daños, se puede aplicar la responsabilidad contractual en virtud del artículo 280 del BGB, siempre que el minorista haya incumplido una obligación en virtud del contrato de compraventa.

También se debe responsabilizar al minorista del comportamiento del sistema utilizado. La IA puede clasificarse como «personas utilizadas para cumplir las obligaciones [del deudor]», en el sentido del artículo 278 del BGB. Por lo tanto, los errores cometidos por la IA tienen las mismas consecuencias jurídicas que los errores cometidos por la propia empresa.

Fabricantes y desarrolladores

Además del minorista, el fabricante o el desarrollador del sistema de IA también puede ser responsable. Si los daños son el resultado de un defecto técnico, se puede aplicar la responsabilidad por productos defectuosos en virtud de la Ley alemana de responsabilidad por productos (ProdHaftG). Las condiciones son que se haya comercializado un producto defectuoso y que este haya provocado lesiones personales o daños materiales.

Además, se puede aplicar la responsabilidad extracontractual en virtud del artículo 823 del BGB si se han incumplido las obligaciones de diligencia. Esto incluye una seguridad inadecuada o unos controles de riesgo insuficientes en el diseño del sistema.

Responsabilidad de las decisiones automatizadas

La responsabilidad es especialmente compleja en el caso de las decisiones de compra totalmente automatizadas, como cuando los sistemas de IA seleccionan productos de forma independiente o realizan pedidos como parte del comercio agéntico. En tales casos, el principio jurídico clave es que la responsabilidad recae en el operador del sistema, ya que es este quien inicia y controla el uso de la IA.

Entre las disposiciones pertinentes se incluye el artículo 22 del Reglamento General de Protección de Datos (RGPD), que regula la toma de decisiones individuales automatizadas. Cuando se toman decisiones que tienen un efecto jurídico o perjudican significativamente a los clientes, las empresas están sujetas a requisitos especiales de seguridad e información. El cliente en cuestión también podría tener derecho a la intervención humana.

¿Puede el uso de IA excluir a los minoristas de responsabilidad?

En principio, el derecho de la UE no permite que se excluya totalmente la responsabilidad debido al uso de la IA. El Reglamento General de Protección de Datos (RGPD) y el derecho civil no permiten que la responsabilidad se asigne únicamente a un sistema automatizado. Por lo tanto, incluso cuando utilizan asistentes de compras muy automatizados, las empresas siguen siendo jurídicamente responsables de su uso, su entrenamiento y sus resultados.

¿Cuáles son los requisitos para la protección de los consumidores en las tiendas en línea que usan IA?

Además de la legislación sobre la protección de datos y de la IA, los asistentes de compras con IA también están sujetos a las normativas de derecho de la Unión Europea sobre la protección de los consumidores. El objetivo es que los clientes puedan acceder a información transparente y tomar decisiones libres e informadas, incluso durante procesos de compra impulsados por IA.

Requisitos de información en el comercio minorista en línea

Los requisitos de información en virtud del artículo 5 de la Directiva sobre el comercio electrónico de la Unión Europea y la Directiva sobre derechos de los consumidores 2011/83/UE son importantes. Las tiendas en línea deben proporcionar información clave (como la identificación de la empresa, el precio del producto, las características del producto y las condiciones) de forma clara y comprensible.

En el caso de los sistemas de IA, las recomendaciones y las respuestas por chat no pueden sustituir a estos requisitos de información. Un asistente con IA puede transmitir información, pero la integridad, la comprensión y la accesibilidad de esta siguen siendo la responsabilidad jurídica del operador de la tienda.

Prohibición de prácticas comerciales engañosas

Los artículos 5 y 6 de la Directiva 2005/29/CE prohíben las prácticas comerciales desleales y las acciones engañosas. El problema principal para las tiendas en línea que usan IA es que las recomendaciones, la clasificación y la información de los precios deben orientarse a los intereses de la tienda de una manera que no sea manipuladora ni oculta. Los clientes deben poder identificar las configuraciones previas automatizadas o las priorizaciones si tienen impacto en el comportamiento de compra.

Transparencia en las recomendaciones de IA

La transparencia también desempeña un papel importante. El artículo 50 de la Ley de IA de la UE, que establece requisitos de transparencia para determinados sistemas de IA, resulta especialmente relevante para los asistentes de compras con IA. De acuerdo con este artículo, por lo general, los clientes deben estar informados en todo momento si están interactuando con un sistema de IA. Por lo tanto, las tiendas en línea que usan chatbots o asistentes de compras impulsados por IA deben dejarles claro a los clientes que no se están comunicando con personas reales.

¿Cuáles son los requisitos para la autorización de pagos y las transacciones impulsadas por IA?

El uso de asistentes de compras con IA significa que las decisiones de compra las toman cada vez más sistemas autónomos o semiautónomos, en lugar de clientes. Esto requiere una revisión de las medidas de seguridad jurídicas y técnicas en torno a la autorización de pagos.

Base legal para la autorización de pagos

Los pagos en el comercio electrónico están sujetos a las disposiciones de la Directiva sobre servicios de pago (PSD2) de la UE 2015/2366. De acuerdo con el artículo 64 de la PSD2, por lo general, todos los pagos requieren una autorización efectiva por parte del pagador. Sin embargo, esta autorización también puede concederse después de la ejecución de la transacción. El consentimiento para una o varias transacciones de pago se otorga en la forma acordada entre el pagador y el proveedor de servicios de pago.

Por consiguiente, los asistentes de compras con IA no pueden iniciar transacciones de pago legalmente vinculantes sin la autorización suficiente. Según la PSD2, estas transacciones deben autorizarse antes o después de la compra.

Interfaces de programación de aplicaciones (API) de pago para asistentes de compras con IA

Los asistentes de compras con IA también requieren API estandarizadas para interactuar de forma segura con los sistemas de pago y de las tiendas. Los proveedores de servicios de pago como Stripe proporcionan API para este fin.

Stripe Payments y Stripe Billing te permiten iniciar y procesar transacciones automáticamente. Stripe también está desarrollando controles de acceso diferenciados para determinar qué productos o métodos de pago puede utilizar un asistente de compras con IA y qué acciones requieren confirmación adicional.

Mecanismos de control y mitigación de riesgos

Desde un punto de vista jurídico, la interacción de la legislación sobre pagos, el derecho contractual y la seguridad de las tecnologías de la información (TI) requiere medidas de seguridad adicionales. Entre ellas, se incluyen las siguientes:

• Límites de presupuesto para compras automatizadas
  
• Aprobación o confirmación obligatoria para determinadas transacciones
  
• Alcance y duración limitados de las autorizaciones
  
• Opciones para el derecho de desistimiento o el bloqueo de procesos automatizados
  

Estos mecanismos implementan los requisitos para el consentimiento válido en virtud de la PSD2, así como los principios de protección de datos y seguridad de los pagos contemplados en el artículo 32 del Reglamento General de Protección de Datos (RGPD).

Comercio con agentes de IA

Con el comercio automatizado, la función del proceso de pago está pasando cada vez más de una acción humana activa a una decisión delegada y basada en reglas tomada por un sistema de IA. Sin embargo, la responsabilidad final sigue recayendo en el cliente o la empresa que implemente el asistente con IA.

Preguntas frecuentes sobre los asistentes de compras con IA en Alemania

A continuación, ofrecemos respuestas a las preguntas más frecuentes sobre la IA en las compras personalizadas y los asistentes de compras con IA en Alemania.