Ongeveer twee op de drie Duitsers gebruikt minstens één keer per week AI-gestuurde chatbots of spraakassistenten. Voor ondernemingen is het belangrijk om er rekening mee te houden dat veel Duitsers AI specifiek gebruiken om naar producten en diensten te zoeken.

Toch willen veel klanten nog steeds de mogelijkheid hebben om contact op te nemen met echte mensen voor hulp tijdens het online winkelen, vooral als er complicaties optreden. Volgens Bitkom – de centrale digitale associatie van Duitsland – wil slechts 36% van de shoppers advies van chatbots als ze tegen problemen aanlopen, zoals ontbrekende bestellingsbevestigingen of te late leveringen. Dit toont aan dat chatbots met vooraf geconfigureerde antwoorden vaak een beperkt nut hebben.

AI-winkelassistenten kunnen hierbij helpen. Ze bieden meer dan de eenvoudige klantenservicefuncties van traditionele chatbots en creëren nieuwe kansen voor de online detailhandel. In dit artikel bespreken we AI-winkelassistenten, inclusief hoe ze werken en welke juridische regelgeving van toepassing is in Duitsland en de EU. We leggen ook uit wie verantwoordelijk is voor AI-gestuurde aankoopbeslissingen en wat de vereisten zijn op het gebied van consumentenbescherming en geautomatiseerde autorisatie van een betaling.

Kernpunten

• AI-winkelassistenten personaliseren online winkelen en hebben aanzienlijk meer mogelijkheden dan traditionele chatbots.
  
• De EU AI Act, e-commercewetgeving op basis van de Algemene verordening gegevensbescherming (AVG) en nationale Duitse wetgeving bevatten uitgebreide regelgeving over het gebruik van AI-winkelassistenten.
  
• Webshops moeten klanten informeren over AI-gestuurde interacties en hoe deze werken door consistente en transparante informatie te verstrekken.
  
• De verantwoordelijkheid voor onjuiste aanbevelingen of aankopen ligt doorgaans bij de webshop die het AI-systeem gebruikt.
  
• AI-gestuurde aankoop- en betalingsprocessen vereisen duidelijke juridische en technische controlemechanismen.
  

Wat is een AI-winkelassistent?

Een AI-winkelassistent is een intelligente, contextbewuste agent die klanten door het hele koopproces op een website of in een app begeleidt. In tegenstelling tot traditionele chatbots (die zijn gebaseerd op vaste scripts en statische veelgestelde vragen) bieden AI-assistenten gepersonaliseerde aanbevelingen, kunnen ze acties voorbereiden of uitvoeren en bieden ze ondersteuning na de aankoop.

Hoe werken AI-winkelassistenten?

AI-winkelassistenten analyseren klantgedrag in real time. Ze leggen voorkeuren vast, stellen passende producten voor en beantwoorden vragen tijdens het koopproces. Ze reageren ook op specifieke situaties in plaats van alleen maar vooraf geconfigureerde antwoorden te geven.

Ze doen echter meer dan alleen klanten adviseren. Ze kunnen ook productaanbevelingen doen op basis van aankoopgeschiedenis, ondersteuning bieden tijdens het afrekenen en hulp bieden na de aankoop.

AI-winkelassistenten voor winkeliers

Winkeliers in Duitsland kunnen AI-winkelassistenten rechtstreeks op websites of in apps inzetten. Deze assistenten kunnen leren van de productcatalogus van de winkelier, eerdere chats, klantbeoordelingen en meer. Dit betekent dat ze proactief op verzoeken kunnen reageren door zich aan te passen aan de specifieke context en de dialoog aan te gaan in plaats van vast te houden aan rigide scripts.

AI-winkelassistenten begeleiden klanten ook in verschillende fasen van het koopproces, van het identificeren van wat ze willen kopen tot het bieden van ondersteuning na aankoop. Het doel is om de winkelervaring persoonlijker en efficiënter te maken om zo de klantloyaliteit te versterken en de omzet te verhogen. Ze kunnen ook de werkdruk verlagen voor interne klantenserviceteams.

Generieke AI-winkelassistenten

Het is belangrijk om onderscheid te maken tussen AI-assistenten die door specifieke winkeliers worden ingezet en generieke assistenten die klanten gebruiken. Shoppers gebruiken generieke assistenten om op het hele internet naar aanbiedingen te zoeken. Hoewel deze assistenten in theorie aantrekkelijk zijn, brengen ze ook uitdagingen met zich mee, zoals betrouwbaarheidsproblemen, betalingsbeveiliging en beperkte toegang tot veel websites.

Duitse en EU-regelgeving inzake AI-toepassingen in e-commerce

Het gebruik van AI-systemen is streng gereguleerd. Naast de bestaande regels onder het EU-recht inzake e-commerce, moet AI voldoen aan aanvullende vereisten onder de wetgeving inzake gegevensbescherming, de Duitse nationale wetgeving en de AI-verordening van de EU.

AI-verordening van de EU

De belangrijkste pijler van AI-regulering in de EU is Verordening (EU) 2024/1689, ook bekend als de 'AI-verordening van de EU'. Dit is het allereerste geünificeerde juridische kader voor AI-systemen in de EU. Het werk aan de AI-verordening van de EU begon in 2019. Deze werd in mei 2024 goedgekeurd door de EU-lidstaten en op 12 juli 2024 gepubliceerd in het Publicatieblad van de Europese Unie.

Volgens artikel 113 zal de AI-verordening met ingang van 2 augustus 2026 worden gehandhaafd. Bepaalde hoofdstukken en afdelingen zijn echter al in werking getreden, eerst op 2 februari 2025 en vervolgens op 2 augustus 2025. De Europese Raad en het Europees Parlement zijn in maart 2026 echter overeengekomen over een wijziging van de AI-verordening van de EU die tot doel heeft een aantal van de bepalingen te vereenvoudigen en bepaalde termijnen te verlengen.

De wet hanteert een op risico gebaseerde benadering, waarbij een onderscheid wordt gemaakt tussen verboden AI-praktijken, systemen met een hoog risico en toepassingen met een minimaal risico. Een van de belangrijkste bepalingen is artikel 5, waarin verboden AI-praktijken worden opgesomd. Deze omvatten AI-systemen die manipulatieve of misleidende technieken gebruiken om klanten beslissingen te laten nemen die aanzienlijke schade toebrengen aan henzelf of aan andere personen.

In de context van webshops betekent dit dat door AI aangedreven winkelassistenten klanten niet opzettelijk mogen manipuleren of misleidende technieken mogen gebruiken om hen te dwingen tot beslissingen die zij anders niet zouden hebben genomen.

Richtlijn inzake elektronische handel

Naast deze nieuwe wetgeving zijn webshops ook gebonden aan het EU-recht inzake e-commerce. Duitse ondernemingen zijn bijvoorbeeld onderworpen aan de EU-richtlijn inzake elektronische handel (Richtlijn 2000/31/EG). Dit is het juridische basiskader voor e-commerce in de EU. De richtlijn bevat bepalingen over de verplichtingen van aanbieders van digitale diensten met betrekking tot informatie, transparantie en aansprakelijkheid.

Deze werd later aangevuld met de digitaledienstenverordening (Verordening (EU) 2022/2065), die aanvullende vereisten voor digitale platforms vaststelt.

Wet digitale diensten (DDG)

In Duitsland wordt het EU-recht inzake e-commerce aangevuld met de DDG. De DDG heeft belangrijke bepalingen uit de eerdere Duitse Telemediawet overgenomen en bevat bepalingen inzake de identificatie van aanbieders, juridische kennisgevingen en andere verantwoordelijkheden voor aanbieders van digitale diensten.

Civielrechtelijke voorschriften

Door AI aangedreven bedrijfsmodellen kunnen in Duitsland ook onderworpen zijn aan de algemene bepalingen van het civiel recht. Dit omvat met name de aansprakelijkheidsbepalingen in het Duitse Burgerlijk Wetboek (BGB), zoals voor plichtsverzuim (artikel 280) en aansprakelijkheid (artikel 823). Klanten kunnen schadeclaims indienen als AI-systemen onjuist worden ingezet of als ze onjuiste resultaten opleveren.

Welke regelgeving voor gegevensbescherming is van toepassing op webshops die AI gebruiken?

AI-systemen die in de e-commerce worden gebruikt, verwerken regelmatig persoonsgegevens. Daarom speelt regelgeving voor gegevensbescherming, in het bijzonder de Algemene verordening gegevensbescherming (AVG), een belangrijke rol bij de inzet van AI-winkelassistenten. Belangrijke datapunten zijn onder andere namen, contactgegevens, bestelgeschiedenis, klantgedrag, locatiegegevens en individuele klantvoorkeuren.

Wettelijke basis voor verwerking

De AVG staat alleen het verwerken van persoonsgegevens toe als dit rechtmatig gebeurt. Een van de belangrijkste wettelijke bases is het verwerken voor de uitvoering van een contract, conform Artikel 6 van de AVG. Verwerking kan ook worden gebaseerd op gerechtvaardigde belangen.

In sommige gevallen vereist het verwerken de uitdrukkelijke toestemming van de betrokkene. Uitdrukkelijke toestemming is bijvoorbeeld vereist als persoonsgegevens worden verwerkt voor personalisatie of tracking, en deze doeleinden niet strikt noodzakelijk zijn voor de uitvoering van een koopcontract.

Personalisatie en profilering

Bij AI-winkelassistenten is personalisatie van klantgedrag de belangrijkste zorg op het gebied van gegevensbescherming. Ondernemingen die aankoopgeschiedenis, zoekopdrachten of klikgedrag evalueren om individuele productaanbevelingen te genereren, moeten de principes van dataminimalisatie, doelmatigheid en transparantie in acht nemen. Klanten moeten duidelijk worden geïnformeerd over welke gegevens worden verwerkt en voor welk doel.

Het gebruik van AI-systemen kan ook profilering inhouden, conform Artikel 4, nr. 4 van de AVG. Dit is van toepassing op de geautomatiseerde evaluatie van persoonlijke interesses, voorkeuren en winkelgedrag. Ondernemingen die dergelijke analyses op grote schaal uitvoeren, kunnen worden onderworpen aan aanvullende informatievereisten of verplicht worden een gegevensbeschermingseffectbeoordeling uit te voeren, conform Artikel 35 van de AVG.

Gegevensbeveiliging en technische maatregelen

Winkeliers online moeten ervoor zorgen dat persoonsgegevens adequaat worden beschermd. Volgens Artikel 32 van de AVG moeten ondernemingen passende technische en organisatorische maatregelen nemen om de gegevens veilig te houden. Dergelijke maatregelen omvatten onder meer toegangsbeperkingen, encryptie, beleid voor het verwijderen van gegevens en regelmatige beveiligingsaudits van de gebruikte AI-systemen.

Wie is verantwoordelijk voor geautomatiseerde aankoopbeslissingen?

Het gebruik van AI-winkelassistenten roept de vraag op wie verantwoordelijk is voor onjuiste aanbevelingen, onjuiste productinformatie of financiële verliezen. In het burgerlijk recht is het algemene beginsel van aansprakelijkheid op basis van verantwoordelijkheidsgebieden van toepassing: niet de AI zelf is aansprakelijk, maar de personen of ondernemingen erachter.

Webshops

In de praktijk zijn webshops die AI-winkelassistenten in hun winkels integreren over het algemeen de hoofdverantwoordelijken. Zij zijn de contractpartners van de klanten. Daarom moeten zij ervoor zorgen dat de systemen legaal en zoals bedoeld functioneren. Indien onjuiste aanbevelingen leiden tot schade, kan de contractuele aansprakelijkheid op grond van artikel 280 BGB van toepassing zijn, op voorwaarde dat de winkelier een verplichting uit het koopcontract heeft geschonden.

De winkelier moet ook verantwoordelijk worden gehouden voor het gedrag van het gebruikte systeem. AI kan worden geclassificeerd als "personen die worden gebruikt om de verplichtingen [van de schuldenaar] na te komen", in de zin van Artikel 278 BGB. Bijgevolg hebben fouten van de AI dezelfde juridische gevolgen als fouten van de onderneming zelf.

Fabrikanten en developers

Naast de winkelier kan ook de fabrikant of developer van het AI-systeem aansprakelijk zijn. Indien er schade ontstaat door een technisch defect, kan productaansprakelijkheid op grond van de Duitse wet op de productaansprakelijkheid (ProdHaftG) van toepassing zijn. Voorwaarden zijn dat er een defect product op de markt is gebracht en dat dit heeft geleid tot lichamelijk letsel of materiële schade.

Daarnaast kan er sprake zijn van aansprakelijkheid uit onrechtmatige daad op grond van artikel 823 BGB bij schending van de zorgplicht. Dit omvat onder meer onvoldoende beveiliging of onvoldoende risicobeheersing in het systeemontwerp.

Aansprakelijkheid voor geautomatiseerde beslissingen

Aansprakelijkheid is met name complex in het geval van volledig geautomatiseerde aankoopbeslissingen, bijvoorbeeld wanneer AI-systemen zelfstandig producten selecteren of bestellingen plaatsen als onderdeel van agentic e-commerce. In deze gevallen is het belangrijkste juridische beginsel dat de verantwoordelijkheid bij de systeembeheerder ligt, aangezien de beheerder de aanzet geeft voor en controle houdt over de AI.

Relevante bepalingen omvatten Artikel 22 van de AVG, dat van toepassing is op geautomatiseerde individuele besluitvorming. Wanneer er beslissingen worden genomen met juridische gevolgen of een aanzienlijk nadeel voor de klanten, zijn ondernemingen onderworpen aan speciale vereisten op het gebied van beveiliging en informatie. De betreffende klant heeft mogelijk ook recht op menselijke tussenkomst.

Kan het gebruik van AI winkeliers vrijwaren van aansprakelijkheid?

In principe staat de EU-wetgeving niet toe dat de aansprakelijkheid volledig wordt uitgesloten door de inzet van AI. De AVG en het burgerlijk recht staan niet toe dat de verantwoordelijkheid uitsluitend aan een geautomatiseerd systeem wordt toegewezen. Hierdoor blijven ondernemingen, zelfs als er gebruik wordt gemaakt van in hoge mate geautomatiseerde winkelassistenten, wettelijk verantwoordelijk voor de inzet, training en de output ervan.

Wat zijn de vereisten voor consumentenbescherming in webshops die AI gebruiken?

Naast de AI-wetgeving en wetgeving inzake gegevensbescherming, zijn AI-winkelassistenten ook onderworpen aan de bepalingen van het EU-recht inzake consumentenbescherming. Het doel is dat klanten toegang hebben tot transparante informatie en vrije en geïnformeerde beslissingen kunnen nemen, zelfs tijdens aankoopprocessen die worden aangedreven door AI.

Informatievereisten in de online detailhandel

De informatievereisten onder artikel 5 van de Europese richtlijn inzake elektronische handel en de Richtlijn consumentenrechten 2011/83/EU zijn belangrijk. Webshops moeten belangrijke informatie, zoals identificatie van de onderneming, de productprijs, productkenmerken en algemene voorwaarden, op een duidelijke en begrijpelijke manier verstrekken.

Bij AI-systemen kunnen aanbevelingen en chatreacties deze informatievereisten niet vervangen. Een AI-assistent kan informatie overbrengen, maar het is nog steeds de juridische verantwoordelijkheid van de webshopeigenaar dat deze informatie volledig, begrijpelijk en toegankelijk is.

Verbod op misleidende handelspraktijken

Artikel 5 en 6 van Richtlijn 2005/29/EG verbieden oneerlijke handelspraktijken en misleidende acties. Het belangrijkste probleem voor webshops die AI gebruiken, is dat aanbevelingen, rangschikkingen en prijsinformatie moeten worden geleid door de belangen van de webshop, op een manier die niet manipulatief of verborgen is. Klanten moeten in staat zijn om geautomatiseerde voorinstellingen of prioriteringen te identificeren, als deze van invloed zijn op het aankoopgedrag.

Transparantie in AI-aanbevelingen

Transparantie speelt ook een belangrijke rol. Artikel 50 van de AI-verordening van de EU, dat transparantievereisten vaststelt voor bepaalde AI-systemen, is bijzonder relevant voor AI-winkelassistenten. Volgens dit artikel moeten klanten doorgaans worden geïnformeerd wanneer ze interageren met een AI-systeem. Daarom moeten webshops die gebruikmaken van door AI aangedreven chatbots of AI-winkelassistenten, klanten duidelijk maken dat ze niet langer met echte mensen communiceren.

Wat zijn de vereisten voor de autorisatie van betalingen en door AI aangedreven transacties?

Het gebruik van AI-winkelassistenten betekent dat aankoopbeslissingen steeds vaker worden genomen door autonome of semiautonome systemen en niet door klanten. Dit vraagt om een herbeoordeling van de juridische en technische waarborgen rond de autorisatie van betalingen.

Juridische basis voor de autorisatie van betalingen

Betalingen in elektronische handel zijn onderworpen aan de bepalingen van de Richtlijn betalingsdiensten (PSD2) EU 2015/2366. Volgens artikel 64 van de PSD2 vereist elke betaling doorgaans een effectieve autorisatie door de betaler. Deze autorisatie kan echter ook worden gegeven nadat de transactie is uitgevoerd. Toestemming voor een of meer betalingstransacties wordt gegeven in de vorm die is overeengekomen tussen de betaler en de betalingsdienstaanbieder (PSP).

Bijgevolg kunnen AI-winkelassistenten geen juridisch bindende betalingstransacties activeren zonder voldoende bevoegdheid. Volgens de PSD2 moeten deze transacties voorafgaand aan of na de aankoop worden geautoriseerd.

Application programming interfaces (API's) voor betalingen voor AI-winkelassistenten

AI-winkelassistenten vereisen ook gestandaardiseerde API's, zodat ze veilig kunnen interageren met betalings- en winkelsystemen. PSP's zoals Stripe bieden hiervoor API's.

Met Stripe Payments en Stripe Billing kun je transacties automatisch activeren en verwerken. Stripe ontwikkelt ook gedifferentieerde toegangscontroles die vaststellen welke producten of betaalmethoden een AI-winkelassistent kan gebruiken en voor welke acties extra bevestiging is vereist.

Controlemechanismen en risicobeperking

Vanuit juridisch perspectief vereist de wisselwerking tussen het betalingsrecht, het contractenrecht en de beveiliging van informatietechnologie (IT) aanvullende waarborgen. Deze omvatten het volgende:

• Budgetlimieten voor geautomatiseerde aankopen
  
• Verplichte goedkeuring of bevestiging voor bepaalde transacties
  
• Beperkte reikwijdte en duur van autorisaties
  
• Opties voor het herroepingsrecht of blokkering van geautomatiseerde processen
  

Deze mechanismen implementeren de vereisten voor geldige toestemming onder de PSD2, evenals de principes van gegevensbescherming en betalingsbeveiliging onder artikel 32 van de AVG.

Agentic commerce

Bij agentic commerce verschuift de rol van het betalingsproces steeds meer van een actieve menselijke handeling naar een gedelegeerde, op regels gebaseerde beslissing van een AI-systeem. De uiteindelijke verantwoordelijkheid ligt echter nog steeds bij de klant of de onderneming die de AI-assistent inzet.

Veelgestelde vragen over AI-winkelassistenten in Duitsland

Hieronder vind je antwoorden op de meestgestelde vragen over AI in gepersonaliseerd winkelen en AI-winkelassistenten in Duitsland.