Etwa zwei von drei Deutschen nutzen mindestens einmal pro Woche KI-gestützte Chatbots oder Sprachassistenten. Für Unternehmen ist es wichtig zu beachten, dass viele Deutsche KI gezielt für die Suche nach Produkten und Dienstleistungen einsetzen.

Dennoch wünschen sich viele Kundinnen und Kunden beim Online-Shopping weiterhin die Möglichkeit, echte Menschen um Hilfe zu bitten, insbesondere wenn Komplikationen auftreten. Laut dem Bitkom – dem zentralen Digitalverband Deutschlands – möchten nur 36 % der Käuferinnen und Käufer bei Problemen wie fehlenden Bestellbestätigungen oder verspäteten Lieferungen von Chatbots beraten werden. Dies zeigt, dass Chatbots mit vorkonfigurierten Antworten häufig nur von begrenztem Nutzen sind.

KI-Einkaufsassistenten könnten bei diesem Problem helfen. Sie bieten mehr als die einfachen Kundenservice-Funktionen herkömmlicher Chatbots und eröffnen neue Möglichkeiten für den Online-Handel. In diesem Artikel erklären wir KI-Einkaufsassistenten, einschließlich ihrer Funktionsweise und der in Deutschland und der EU geltenden rechtlichen Bestimmungen. Außerdem erklären wir, wer für KI-gesteuerte Kaufentscheidungen verantwortlich ist und welche Anforderungen in Bezug auf den Verbraucherschutz und die automatisierte Zahlungsautorisierung gelten.

Haupterkenntnisse

• KI-Einkaufsassistenten personalisieren das Online-Shopping und verfügen über weitaus mehr Funktionen als herkömmliche Chatbots.
  
• Das KI-Gesetz der EU (AI Act), die Datenschutz-Grundverordnung (DSGVO), E-Commerce-Gesetze und das nationale deutsche Recht enthalten umfassende rechtliche Vorschriften für die Nutzung von KI-Einkaufsassistenten.
  
• Online-Shops müssen Kundinnen und Kunden über KI-gestützte Interaktionen und deren Funktionsweise informieren, indem sie konsistente und transparente Informationen bereitstellen.
  
• Die Verantwortung für fehlerhafte Empfehlungen oder Käufe liegt in der Regel bei dem/der Online-Händler/in, der oder die das KI-System einsetzt.
  
• KI-gestützte Kauf- und Zahlungsprozesse erfordern klare rechtliche und technische Kontrollmechanismen.
  

Was ist ein KI-Einkaufsassistent?

Ein KI-Einkaufsassistent ist ein intelligenter, kontextbezogener Agent, der Kundinnen und Kunden durch den gesamten Kaufprozess auf einer Website oder in einer App führt. Im Gegensatz zu herkömmlichen Chatbots – die auf festen Skripten und statischen FAQs basieren – bieten KI-Assistenten personalisierte Empfehlungen, können Aktionen vorbereiten oder durchführen und leisten Unterstützung nach dem Kauf.

Wie funktionieren KI-Einkaufsassistenten?

KI-Einkaufsassistenten analysieren das Kundenverhalten in Echtzeit. Sie erfassen Präferenzen, schlagen passende Produkte vor und beantworten Fragen während des Einkaufsvorgangs. Sie reagieren auch auf spezifische Situationen, anstatt nur vorkonfigurierte Antworten zu liefern.

Sie tun jedoch mehr, als nur Kundinnen und Kunden zu beraten. Sie können auch Produktempfehlungen basierend auf der Kaufhistorie geben, Kundinnen und Kunden beim Bezahlvorgang unterstützen und Hilfe nach dem Kauf leisten.

KI-Einkaufsassistenten von Einzelhändlern

Online-Einzelhändler in Deutschland können KI-Einkaufsassistenten direkt auf Websites oder in Apps einsetzen. Diese Assistenten können aus dem Product Catalog des Einzelhändlers, früheren Chats, Kundenbewertungen und mehr lernen. Das bedeutet, dass sie proaktiv auf Anfragen reagieren, sich an den spezifischen Kontext anpassen und in den Dialog treten können, anstatt an starren Skripten festzuhalten.

KI-Einkaufsassistenten führen Kundinnen und Kunden auch durch verschiedene Phasen des Kaufprozesses – von der Identifizierung ihrer Wünsche bis zur Unterstützung nach dem Kauf. Ziel ist es, das Einkaufserlebnis personalisierter und effizienter zu gestalten, um die Kundenbindung zu stärken und den Umsatz zu steigern. Sie können auch die internen Kundenserviceteams entlasten.

Allgemeine KI-Einkaufsassistenten

Es ist wichtig, zwischen KI-Assistenten, die von bestimmten Einzelhändlern eingesetzt werden, und allgemeinen Assistenten, die Kundinnen und Kunden nutzen, zu unterscheiden. Käuferinnen und Käufer nutzen allgemeine Assistenten, um im gesamten Web nach Angeboten zu suchen. Während diese Assistenten in der Theorie attraktiv sind, bringen sie auch Herausforderungen mit sich, wie z. B. Zuverlässigkeitsprobleme, Zahlungssicherheit und eingeschränkten Zugriff auf viele Websites.

Deutsche und EU-Vorschriften für KI-Anwendungen im E-Commerce

Der Einsatz von KI-Systemen ist streng reguliert. Neben den bestehenden Vorschriften des EU-E-Commerce-Rechts muss KI zusätzliche Anforderungen aus dem Datenschutzrecht, dem nationalen deutschen Recht und dem KI-Gesetz der EU erfüllen.

KI-Gesetz der EU

Die wichtigste Säule der KI-Regulierung in der EU ist die Verordnung EU 2024/1689, auch bekannt als „KI-Gesetz der EU“. Dies ist der erste einheitliche Rechtsrahmen für KI-Systeme in der EU. Die Arbeiten am KI-Gesetz der EU begannen im Jahr 2019. Es wurde im Mai 2024 von den EU-Mitgliedstaaten verabschiedet und am 12. Juli 2024 im Amtsblatt der Europäischen Union veröffentlicht.

Gemäß Artikel 113 tritt das KI-Gesetz ab dem 2. August 2026 in Kraft. Bestimmte Kapitel und Abschnitte sind jedoch bereits in Kraft getreten – zunächst am 2. Februar 2025 und dann am 2. August 2025. Der Europäische Rat und das Europäische Parlament einigten sich jedoch im März 2026 auf eine Änderung des KI-Gesetzes der EU, die einige Bestimmungen vereinfachen und einige Fristen verlängern soll.

Das Gesetz verfolgt einen risikobasierten Ansatz und unterscheidet zwischen verbotenen KI-Praktiken, Hochrisikosystemen und Anwendungen mit minimalem Risiko. Eine der wichtigsten Bestimmungen ist Artikel 5, in dem verbotene KI-Praktiken aufgeführt sind. Dazu gehören KI-Systeme, die manipulative oder täuschende Techniken einsetzen, um Kundinnen und Kunden zu Entscheidungen zu veranlassen, die ihnen selbst oder anderen Personen erheblichen Schaden zufügen.

Im Kontext von Onlineshops bedeutet dies, dass KI-gestützte Einkaufsassistenten Kundinnen und Kunden nicht gezielt manipulieren oder irreführende Techniken anwenden dürfen, um sie zu Entscheidungen zu drängen, die sie sonst nicht getroffen hätten.

E-Commerce-Richtlinie

Neben diesem neuen Gesetz sind Online-Händler auch an das EU-E-Commerce-Recht gebunden. So unterliegen deutsche Unternehmen beispielsweise der E-Commerce-Richtlinie der EU (Richtlinie 2000/31/EG). Diese bildet den rechtlichen Grundrahmen für den elektronischen Geschäftsverkehr in der EU. Die Richtlinie enthält Bestimmungen zu den Informations-, Transparenz- und Haftungspflichten von Anbietern digitaler Dienste.

Sie wurde später durch das Gesetz über digitale Dienste (EU-Verordnung 2022/2065) ergänzt, das zusätzliche Anforderungen an digitale Plattformen stellt.

Digitale-Dienste-Gesetz (DDG)

In Deutschland wird das EU-E-Commerce-Recht durch das DDG ergänzt. Das DDG hat wesentliche Regelungen aus dem bisherigen Telemediengesetz (TMG) übernommen und enthält Bestimmungen zur Anbieterkennzeichnung, zu Impressumspflichten und zu weiteren Verantwortlichkeiten für Anbieter digitaler Dienste.

Zivilrechtliche Regelungen

KI-gestützte Geschäftsmodelle können in Deutschland auch den allgemeinen Vorschriften des Zivilrechts unterliegen. Dazu gehören insbesondere die Haftungsregelungen des Bürgerlichen Gesetzbuches (BGB), wie beispielsweise bei Pflichtverletzungen (§ 280) und Haftung (§ 823). Kundinnen und Kunden können Schadensersatzansprüche geltend machen, wenn KI-Systeme unsachgemäß eingesetzt werden oder fehlerhafte Ergebnisse liefern.

Welche Datenschutzbestimmungen gelten für Online-Shops, die KI nutzen?

KI-Systeme, die im E-Commerce eingesetzt werden, verarbeiten regelmäßig personenbezogene Daten. Daher spielen Datenschutzbestimmungen – insbesondere die Datenschutz-Grundverordnung (DSGVO) – eine Schlüsselrolle beim Einsatz von KI-Einkaufsassistenten. Wichtige Datenpunkte sind Namen, Kontaktdaten, Bestellhistorien, Kundenverhalten, Standortdaten und individuelle Kundenpräferenzen.

Rechtsgrundlage der Verarbeitung

Die DSGVO erlaubt nur die Verarbeitung personenbezogener Daten, die rechtmäßig erfolgt. Eine der wichtigsten Rechtsgrundlagen ist die Verarbeitung zur Erfüllung eines Vertrags gemäß Artikel 6 DSGVO. Die Verarbeitung kann auch auf berechtigten Interessen beruhen.

In einigen Fällen erfordert die Verarbeitung die ausdrückliche Einwilligung der betroffenen Person. Beispielsweise ist eine ausdrückliche Einwilligung erforderlich, wenn personenbezogene Daten zu Personalisierungs- oder Trackingzwecken verarbeitet werden und diese Zwecke für die Erfüllung eines Kaufvertrags nicht zwingend erforderlich sind.

Personalisierung und Profiling

Bei KI-Einkaufsassistenten ist das primäre datenschutzrechtliche Anliegen die personalisierte Analyse des Kundenverhaltens. Unternehmen, die Kaufhistorien, Suchanfragen oder Klickverhalten auswerten, um individuelle Produktempfehlungen zu generieren, müssen die Grundsätze der Datenminimierung, Zweckbindung und Transparenz beachten. Kundinnen und Kunden müssen klar darüber informiert werden, welche Daten zu welchem Zweck verarbeitet werden.

Der Einsatz von KI-Systemen kann auch ein Profiling gemäß Artikel 4 Nr. 4 DSGVO darstellen. Dies gilt für die automatisierte Bewertung persönlicher Interessen, Präferenzen und Einkaufsgewohnheiten. Unternehmen, die solche Analysen in großem Maßstab durchführen, können gemäß Artikel 35 DSGVO zusätzlichen Informationspflichten unterliegen oder zur Durchführung von Datenschutz-Folgenabschätzungen verpflichtet sein.

Datensicherheit und technische Maßnahmen

Online-Einzelhändler müssen sicherstellen, dass personenbezogene Daten angemessen geschützt sind. Artikel 32 DSGVO verlangt von Unternehmen, geeignete technische und organisatorische Maßnahmen zu ergreifen, um die Sicherheit der Daten zu gewährleisten. Diese Maßnahmen umfassen Zugangsbeschränkungen, Verschlüsselung, Datenlöschungsrichtlinien und regelmäßige Sicherheitsüberprüfungen der eingesetzten KI-Systeme.

Wer ist für automatisierte Kaufentscheidungen verantwortlich?

Die Nutzung von KI-Einkaufsassistenten wirft die Frage auf, wer für fehlerhafte Empfehlungen, falsche Produktinformationen oder finanzielle Verluste verantwortlich ist. Im Zivilrecht gilt der allgemeine Grundsatz der Haftung nach Verantwortungsbereichen: Nicht die KI selbst haftet, sondern die Einzelpersonen oder Unternehmen, die dahinterstehen.

Herausforderungen für den Onlinehandel

In der Praxis sind Online-Einzelhändler, die KI-Einkaufsassistenten in ihre Shops integrieren, in der Regel die Hauptverantwortlichen. Sie sind die Vertragspartner der Kundinnen und Kunden. Daher müssen sie sicherstellen, dass die Systeme rechtmäßig und wie vorgesehen funktionieren. Führen fehlerhafte Empfehlungen zu einem Schaden, kann eine vertragliche Haftung gemäß § 280 BGB greifen, sofern der Einzelhändler eine Pflicht aus dem Kaufvertrag verletzt hat.

Der Einzelhändler muss auch für das Verhalten des eingesetzten Systems zur Verantwortung gezogen werden. Die KI kann als „Personen, derer er sich zur Erfüllung [seiner] Verbindlichkeiten bedient“ im Sinne von § 278 BGB eingestuft werden. Daher haben Fehler der KI dieselben rechtlichen Konsequenzen wie Fehler des Unternehmens selbst.

Hersteller sowie Entwicklerinnen und Entwickler

Neben dem Einzelhändler können auch der Hersteller oder die Entwicklerinnen und Entwickler des KI-Systems haften. Resultiert ein Schaden aus einem technischen Defekt, kann die Produkthaftung gemäß dem Produkthaftungsgesetz (ProdHaftG) greifen. Voraussetzung ist, dass ein fehlerhaftes Produkt in den Verkehr gebracht wurde und dies zu einem Personen- oder Sachschaden geführt hat.

Darüber hinaus kann eine deliktische Haftung gemäß § 823 BGB greifen, wenn Sorgfaltspflichten verletzt wurden. Dazu gehören unzureichende Sicherheit oder mangelhafte Risikokontrollen im Systemdesign.

Haftung für automatisierte Entscheidungen

Die Haftung ist besonders komplex bei vollautomatisierten Kaufentscheidungen, etwa wenn KI-Systeme im Rahmen des Agentic Commerce eigenständig Produkte auswählen oder Bestellungen aufgeben. In solchen Fällen lautet der wichtigste rechtliche Grundsatz, dass die Verantwortung beim Systembetreiber liegt, da dieser den Einsatz der KI initiiert und steuert.

Zu den relevanten Bestimmungen gehört Artikel 22 der DSGVO, der automatisierte Entscheidungen im Einzelfall regelt. Wenn Entscheidungen getroffen werden, die eine rechtliche Wirkung entfalten oder Kundinnen und Kunden erheblich benachteiligen, unterliegen Unternehmen besonderen Sicherheits- und Informationspflichten. Die betroffenen Endkundinnen und Endkunden haben möglicherweise auch ein Recht auf menschliches Eingreifen.

Kann der Einsatz von KI Einzelhändler von der Haftung ausschließen?

Grundsätzlich lässt das EU-Recht keinen vollständigen Haftungsausschluss durch den Einsatz von KI zu. Die DSGVO und das Zivilrecht erlauben es nicht, die Verantwortung ausschließlich einem automatisierten System zuzuweisen. Daher bleiben Unternehmen auch beim Einsatz hochautomatisierter Einkaufsassistenten rechtlich für deren Nutzung, Training und Ergebnisse verantwortlich.

Was sind die Anforderungen an den Verbraucherschutz in Onlineshops, die KI nutzen?

Neben den KI- und Datenschutzgesetzen unterliegen KI-Einkaufsassistenten auch den Bestimmungen des EU-Verbraucherschutzrechts. Ziel ist es, dass Kundinnen und Kunden auch bei KI-gestützten Kaufprozessen Zugang zu transparenten Informationen erhalten und freie und informierte Entscheidungen treffen können.

Informationspflichten im Online-Handel

Wichtig sind die Informationspflichten nach Artikel 5 der europäischen E-Commerce-Richtlinie und der Verbraucherrechterichtlinie 2011/83/EU. Onlineshops müssen wichtige Informationen – wie Anbieterkennzeichnung, Produktpreis, Produkteigenschaften und Allgemeine Geschäftsbedingungen – klar und verständlich zur Verfügung stellen.

Bei KI-Systemen können Empfehlungen und Chat-Antworten diese Informationspflichten nicht ersetzen. Ein KI-Assistent kann zwar Informationen vermitteln, doch die rechtliche Verantwortung dafür, dass diese Informationen vollständig, verständlich und zugänglich sind, liegt weiterhin beim Shop-Betreiber.

Verbot irreführender Geschäftspraktiken

Die Artikel 5 und 6 der Richtlinie 2005/29/EG verbieten unlautere Geschäftspraktiken und irreführende Handlungen. Das Hauptproblem für Onlineshops, die KI einsetzen, besteht darin, dass Empfehlungen, Rankings und Preisinformationen nicht manipulativ oder verdeckt von den Interessen des Shops geleitet sein dürfen. Kundinnen und Kunden müssen automatisierte Voreinstellungen oder Priorisierungen erkennen können, wenn diese Auswirkungen auf das Kaufverhalten haben.

Transparenz bei KI-Empfehlungen

Transparenz spielt ebenfalls eine wichtige Rolle. Besonders relevant für KI-Einkaufsassistenten ist Artikel 50 des KI-Gesetzes der EU, der Transparenzanforderungen für bestimmte KI-Systeme festlegt. Demnach müssen Kundinnen und Kunden grundsätzlich darüber informiert werden, wenn sie mit einem KI-System interagieren. Onlineshops, die KI-gestützte Chatbots oder KI-Einkaufsassistenten einsetzen, müssen Kundinnen und Kunden also deutlich machen, dass sie nicht mehr mit echten Menschen kommunizieren.

Was sind die Anforderungen an Zahlungsautorisierung und KI-gestützte Transaktionen?

Der Einsatz von KI-Einkaufsassistenten führt dazu, dass Kaufentscheidungen zunehmend von autonomen oder teilautonomen Systemen und nicht mehr von den Kundinnen und Kunden getroffen werden. Dies erfordert eine Überprüfung der rechtlichen und technischen Schutzmechanismen rund um die Zahlungsautorisierung.

Rechtliche Grundlagen der Zahlungsautorisierung

Zahlungen im elektronischen Handel unterliegen den Bestimmungen der Zahlungsdiensterichtlinie (PSD2) EU 2015/2366. Gemäß Artikel 64 der PSD2 bedarf jede Zahlung grundsätzlich einer wirksamen Autorisierung durch den Zahler. Diese Autorisierung kann jedoch auch nach Ausführung der Transaktion erteilt werden. Die Zustimmung zu einem oder mehreren Zahlungsvorgängen erfolgt in der zwischen Zahler und Zahlungsdienstleister (PSP) vereinbarten Form.

Folglich können KI-Einkaufsassistenten keine rechtsverbindlichen Zahlungsvorgänge ohne ausreichende Autorisierung auslösen. Gemäß PSD2 müssen diese Transaktionen vor oder nach dem Kauf autorisiert werden.

Anwendungsprogrammierschnittstellen (APIs) für Zahlungen für KI-Einkaufsassistenten

KI-Einkaufsassistenten benötigen zudem standardisierte APIs, um sicher mit Zahlungs- und Shopsystemen interagieren zu können. Zahlungsdienstleister wie Stripe stellen hierfür entsprechende APIs zur Verfügung.

Mit Stripe Payments und Stripe Billing können Sie Transaktionen automatisch auslösen und abwickeln. Stripe entwickelt außerdem differenzierte Zugriffskontrollen, die festlegen, welche Produkte oder Zahlungsmethoden ein KI-Einkaufsassistent nutzen darf und für welche Aktionen eine zusätzliche Bestätigung erforderlich ist.

Kontrollmechanismen und Risikominderung

Aus rechtlicher Sicht erfordert das Zusammenspiel von Zahlungsrecht, Vertragsrecht und IT-Sicherheit zusätzliche Schutzmaßnahmen. Dazu gehören unter anderem:

• Budgetgrenzen für automatisierte Käufe
  
• Obligatorische Freigabe oder Bestätigung für bestimmte Transaktionen
  
• Eingeschränkter Umfang und begrenzte Dauer von Autorisierungen
  
• Optionen für das Widerrufsrecht oder die Sperrung automatisierter Prozesse
  

Diese Mechanismen setzen die Anforderungen an eine wirksame Einwilligung nach PSD2 sowie die Grundsätze der Daten- und Zahlungssicherheit nach Artikel 32 der DSGVO um.

Agentic Commerce

Beim Agentic Commerce verlagert sich die Rolle des Zahlungsvorgangs zunehmend von einer aktiven menschlichen Handlung hin zu einer delegierten, regelbasierten Entscheidung eines KI-Systems. Die letztendliche Verantwortung liegt jedoch weiterhin entweder bei der Kundin oder dem Kunden oder bei dem Unternehmen, das den KI-Assistenten einsetzt.

FAQs zu KI-Einkaufsassistenten in Deutschland

Im Folgenden finden Sie Antworten auf die am häufigsten gestellten Fragen zu KI beim personalisierten Einkaufen und KI-Einkaufsassistenten in Deutschland.