大约有三分之二的德国人每周至少使用一次人工智能驱动的聊天机器人或语音助手。对于企业来说，需要注意的是，许多德国人专门使用 AI 来搜索产品和服务。

尽管如此，许多客户仍然希望在网购时（特别是在出现复杂情况时）可以选择联系真人寻求帮助。据德国中央数字协会 Bitkom 称，当遇到缺少订单确认或交货延迟等问题时，只有 36% 的购物者希望获得聊天机器人的建议。这表明，具有预设回复的聊天机器人往往用处有限。

AI 购物助手可以帮助解决这个问题。它们提供的不仅仅是传统聊天机器人简单的客户服务功能，还为线上零售创造了新的机遇。在本文中，我们将解释 AI 购物助手，包括它们的工作原理以及德国和欧盟实施的法律法规。我们还将解释谁对 AI 驱动的购买决策负责，以及在消费者保护和自动支付授权方面的要求。

要点

• AI 购物助手为线上购物提供了个性化体验，并且具有比传统聊天机器人多得多的功能。
  
• 欧盟 AI 法案、GDPR (欧盟通用数据保护条例 ) 电子商务法律以及德国国家法律包含有关使用 AI 购物助手的全面规定。
  
• 线上商店必须通过提供一致和透明的信息，向客户说明由 AI 提供支持的互动及其工作原理。
  
• 错误推荐或购买的责任通常在于使用 AI 系统的线上零售商。
  
• 由 AI 驱动的购买和支付流程需要清晰的法律和技术控制机制。
  

什么是 AI 购物助手？

AI 购物助手是一种智能且具有上下文感知能力的代理，可在网站或应用上引导客户完成整个购买流程。与基于固定脚本和静态常见问题解答的传统聊天机器人不同，AI 助手提供个性化推荐，可以准备或执行操作，并在购买后提供协助。

AI 购物助手的工作原理是什么？

AI 购物助手实时分析客户行为。它们在购物流程中捕获偏好、建议合适的产品并回答问题。它们还对特定情况做出反应，而不是简单地提供预先配置的回复。

然而，它们不仅仅是为客户提供建议。它们还可以根据购买历史做出产品推荐，在结账期间支持客户，并在购买后提供协助。

零售商 AI 购物助手

德国的在线零售商可直接在网站或应用上部署 AI 购物助手。这些助手可以从零售商的 Product catalog、以前的聊天记录、客户评论等中学习。这意味着它们可以主动响应请求，适应特定的上下文并参与对话，而不是坚持死板的脚本。

AI 购物助手还指导客户完成购买流程的不同阶段——从确定他们想买的东西到在购买后支持他们。目标是使购物体验更加个性化和高效，以增强客户忠诚度并促进销售。它们还可以减轻内部客户服务团队的工作量。

通用 AI 购物助手

必须区分由特定零售商部署的 AI 助手和客户使用的通用助手。购物者使用通用助手在整个网络上搜索优惠。虽然这些助手在理论上很有吸引力，但它们也带来了挑战，例如可靠性问题、支付安全以及许多网站的访问限制。

电子商务中人工智能应用的德国和欧盟法规

人工智能系统的使用受到严格监管。除了欧盟电子商务法下的现有规则外，人工智能还必须满足数据保护法、德国国内法和《欧盟人工智能法案》的额外要求。

《欧盟人工智能法案》

欧盟人工智能监管的主要支柱是 欧盟法规 2024/1689，也称为《欧盟人工智能法案》。这是欧盟有史以来第一个针对人工智能系统的一体化法律框架。关于《欧盟人工智能法案》的工作始于 2019 年。它于 2024 年 5 月获得欧盟成员国的批准，并于 2024 年 7 月 12 日发表在《欧洲联盟官方公报》上。

根据第 113 条，该人工智能法案将于 2026 年 8 月 2 日起实施。但是，某些章节已经生效，首先是 2025 年 2 月 2 日，然后是 2025 年 8 月 2 日。然而，欧洲理事会和欧洲议会于 2026 年 3 月就《欧盟人工智能法案》的修正案达成一致，旨在简化某些规定并延长某些期限。

该法案采用基于风险的方法，区分了被禁止的人工智能实践、高风险系统和最低风险应用。关键条款之一是第 5 条，其中列出了被禁止的人工智能实践。其中包括使用操纵性或欺骗性技术导致客户做出对他们自己或其他人造成重大伤害的决定的人工智能系统。

在在线商店的背景下，这意味着人工智能驱动的购物助手不得故意操纵客户或采用欺骗手段迫使他们做出在其他情况下不会做出的决定。

《电子商务指令》

除了这项新法律，线上零售商还受欧盟电子商务法的约束。例如，德国商家受《欧盟电子商务指令》（指令 2000/31/EC）的约束。这是欧盟电子商务的基本法律框架。该指令包含有关数字服务商在信息、透明度和责任方面义务的规定。

后来它得到了《数字服务法》（欧盟法规 2022/2065）的补充，该法案对数字平台提出了额外要求。

数字服务法 (DDG)

在德国，欧盟电子商务法得到了 DDG 的补充。DDG 采用了之前《德国电信媒体法》的关键规定，并包含有关服务商标识、法律声明以及数字服务商其他责任的规定。

民法规定

人工智能驱动的商业模式也可能受到德国民法一般规定的约束。这尤其包括《德国民法典》(BGB) 中规定的责任条款，例如违约责任（第 280 条）和侵权责任（第 823 条）。如果人工智能系统部署不当或提供不正确的结果，客户可以提出损害赔偿索赔。

哪些数据保护法规适用于使用 AI 的在线商店？

在电子商务中使用的 AI 系统经常会处理个人身份信息。因此，数据保护法规——特别是GDPR (欧盟通用数据保护条例 )——在 AI 购物助手的部署中发挥着关键作用。重要的数据点包括姓名、联系方式、订单历史记录、客户行为、位置数据以及个人客户偏好。

处理的合法依据

GDPR 仅允许合法处理个人身份信息。根据GDPR 第 6 条的规定，一个关键的合法依据是为履行合同而进行的处理。处理也可以基于合法利益。

在某些情况下，处理需要数据主体的明确同意。例如，如果是为了个性化或跟踪目的而处理个人身份信息，并且这些目的对于履行购买合同并非绝对必要，则必须获得明确同意。

个性化和特征分析

对于 AI 购物助手，数据保护的首要关注点是对客户行为进行个性化分析。评估购买历史、搜索查询或点击行为以生成个性化产品推荐的商家必须遵守数据最小化、目的明确和透明的原则。必须明确告知客户正在处理哪些数据以及处理目的。

根据GDPR 第 4 条第 4 款的规定，AI 系统的使用也可能构成特征分析。这适用于对个人兴趣、偏好和购物习惯的自动评估。大规模进行此类分析的商家可能需要遵守额外的信息要求，或者需要根据GDPR 第 35 条进行数据保护影响评估。

数据安全和技术措施

在线零售商必须确保个人身份信息得到充分保护。GDPR 第 32 条要求商家采取适当的技术和组织措施以保证数据安全。这些措施包括访问限制、加密、数据删除政策，以及对所使用 AI 系统进行定期安全审计。

谁对自动购买决策负责？

AI 购物助手的使用引发了一个问题：谁应该对有缺陷的建议、不正确的产品信息或财务损失负责。在民法中，基于责任领域的责任一般原则适用：不承担责任的不是 AI 本身，而是其背后的个人或公司。

线上零售商

在实践中，将 AI 购物助手集成到其商店中的在线零售商通常是主要的负责方。它们是客户的合同伙伴。因此，它们必须确保系统合法并按预期运行。如果错误的建议导致损坏，只要零售商违反了销售合同下的义务，BGB 第 280 条下的合同责任就可能适用。

零售商还必须对所使用系统的行为负责。AI 可以被归类为“用于履行[债务人]义务的人”，在BGB 第 278 条的含义内。因此，AI 犯下的错误与公司本身犯下的错误具有相同的法律后果。

制造商和开发人员

除零售商外，AI 系统的制造商或开发人员也可能承担责任。如果技术缺陷导致损坏，则可适用德国产品责任法 (ProdHaftG) 下的产品责任。条件是市场上有缺陷产品，且这导致人身伤害或财产损失。

此外，如果违反了注意义务，则可能适用 BGB 第 823 条下的侵权责任。这包括系统设计中的安全性不足或风险控制不充分。

自动决策的责任

在完全自动化的购买决策的情况下，责任尤其复杂，例如当 AI 系统作为代理商务的一部分独立选择产品或下订单时。在这些情况下，关键的法律原则是系统运营商承担责任，因为运营商启动并控制 AI 的使用。

相关规定包括GDPR 第 22 条，该条管理自动个人决策。在做出具有法律效力或对客户造成重大不利影响的决策时，商家需遵守特殊的安全和信息要求。所讨论的客户还可能拥有要求人工干预的权利。

使用 AI 可以免除零售商的责任吗？

原则上，欧盟法律不允许因使用 AI 而完全排除责任。GDPR 和民法不允许仅将责任分配给自动化系统。因此，即使使用高度自动化的购物助手，公司在法律上仍对其使用、培训和输出负责。

使用人工智能的在线商店的消费者保护要求是什么？

除了人工智能和数据保护法之外，人工智能购物助手还受欧盟消费者保护法规定的约束。目的是让客户能够获得透明的信息并做出自由和明智的决定，即使在人工智能驱动的购买过程中也是如此。

线上零售的信息要求

《欧洲电子商务指令》第 5 条和《消费者权利指令 2011/83/EU》下的信息要求非常重要。在线商店必须以清晰易懂的方式提供关键信息，例如商家标识、产品价格、产品特征以及条款和条件。

使用人工智能系统时，推荐和聊天响应不能取代这些信息要求。人工智能助手可以传达信息，但确保这些信息完整、易懂和可获取仍然是商店运营商的法律责任。

禁止误导性商业行为

指令 2005/29/EC 第 5 条和第 6 条禁止不公平商业行为和误导性行为。使用人工智能的在线商店面临的主要问题是，推荐、排名和价格信息必须在商店利益的指导下进行，且方式不得具有操纵性或隐蔽性。如果自动预设或优先级对购买行为有影响，客户必须能够识别它们。

人工智能推荐的透明度

透明度也起着重要作用。为某些人工智能系统确立透明度要求的《欧盟人工智能法案》第 50 条与人工智能购物助手特别相关。根据该条款，通常必须在客户与人工智能系统互动时通知他们。因此，使用人工智能驱动的聊天机器人或人工智能购物助手的在线商店必须向客户明确说明他们不再是在与真人交流。

支付授权和人工智能驱动的交易有哪些要求？

使用人工智能购物助手意味着购买决策越来越由自主或半自主系统做出，而不是由客户做出。这就需要重新审视有关支付授权的法律和技术保障措施。

支付授权的法律基础

电子商务中的支付受 欧盟支付服务指令 (PSD2) EU 2015/2366 的规定约束。根据 PSD2 第 64 条的规定，每笔支付通常需要付款人的有效授权。但是，此授权也可以在交易执行后给出。对一项或多项交易的同意应以付款人和服务商 (PSP) 商定的形式作出。

因此，如果没有充分的授权，人工智能购物助手无法触发具有法律约束力的支付交易。根据 PSD2，这些交易必须在购买之前或之后获得授权。

人工智能购物助手的支付应用程序编程接口 (API)

人工智能购物助手还需要标准化的 API，以便它们能够安全地与支付和商店系统进行交互。诸如 Stripe 等 PSP 为此提供了 API。

Stripe Payments 和 Stripe Billing 允许您自动触发和处理交易。Stripe 还在开发差异化的访问控制，以确定人工智能购物助手可以使用哪些产品或支付方式，以及哪些操作需要额外的确认。

控制机制和风险缓解

从法律角度来看，支付法、合同法和信息技术 (IT) 安全的相互作用需要额外的保障措施。这些措施包括以下内容：

• 自动购买的预算限制
  
• 某些交易的强制性批准或确认
  
• 授权的范围和期限受限
  
• 撤回权或阻止自动化流程的选项
  

这些机制贯彻了 PSD2 下有效同意的要求，以及 GDPR (欧盟通用数据保护条例 ) 第 32 条下的数据和支付安全原则。

智能体商务

在代理商务中，支付流程的作用正越来越多地从人类的主动操作转变为由人工智能系统做出的基于规则的委托决策。但是，最终责任仍然在于客户或部署人工智能助手的公司。

德国 AI 购物助手常见问题解答

下面，我们提供有关个性化购物中 AI 以及德国 AI 购物助手的最常见问题的解答。