Ungefär två av tre tyskar använder AI-drivna chattbottar eller röstassistenter minst en gång i veckan. För företag är det viktigt att notera att många tyskar använder AI specifikt för att söka efter produkter och tjänster.

Med det sagt vill många kunder fortfarande ha möjligheten att kontakta riktiga människor för att få hjälp när de handlar på nätet, särskilt om komplikationer uppstår. Enligt Bitkom, Tysklands centrala digitala branschorganisation, vill endast 36 % av köparna ha råd från chattbottar när de stöter på problem, till exempel saknade orderbekräftelser eller sena leveranser. Detta visar att chattbottar med förkonfigurerade svar ofta har begränsad användbarhet.

AI-shoppingassistenter kan hjälpa till med det här problemet. De erbjuder mer än de enkla kundtjänstfunktionerna hos traditionella chattbottar och skapar nya möjligheter för e-handeln. I den här artikeln förklarar vi AI-shoppingassistenter, inklusive hur de fungerar och vilka juridiska regler som gäller i Tyskland och EU. Vi förklarar även vem som är ansvarig för AI-drivna köpbeslut och vilka kraven är när det gäller konsumentskydd och automatiserad betalningsauktorisering.

Viktiga lärdomar

• AI-shoppingassistenter anpassar e-handeln personligt och har betydligt fler funktioner än traditionella chattbottar.
  
• EU:s AI-förordning, e-handelslagar inom den allmänna dataskyddsförordningen (GDPR) och nationell tysk lagstiftning innehåller omfattande regler om användningen av AI-shoppingassistenter.
  
• Nätbutiker måste informera kunder om AI-drivna interaktioner och hur de fungerar genom att tillhandahålla konsekvent och transparent information.
  
• Ansvaret för felaktiga rekommendationer eller köp ligger vanligtvis hos den e-handlare som använder AI-systemet.
  
• AI-drivna köp- och betalningsprocesser kräver tydliga juridiska och tekniska kontrollmekanismer.
  

Vad är en AI-shoppingassistent?

En AI-shoppingassistent är en intelligent, kontextmedveten agent som guidar kunder genom hela köpprocessen på en webbplats eller i en app. Till skillnad från traditionella chattbotar – som baseras på fasta manus och statiska vanliga frågor – erbjuder AI-assistenter anpassade rekommendationer, kan förbereda eller utföra åtgärder och erbjuda support efter köpet.

Hur fungerar AI-shoppingassistenter?

AI-shoppingassistenter analyserar kundbeteende i realtid. De fångar upp preferenser, föreslår lämpliga produkter och svarar på frågor under shoppingprocessen. De reagerar också på specifika situationer, i stället för att bara ge förkonfigurerade svar.

De gör dock mer än att bara ge råd till kunder. De kan också ge produktrekommendationer baserat på köphistorik, stödja kunder när de går till kassan och ge support efter köp.

AI-shoppingassistenter för detaljhandlare

Nätbutiker i Tyskland kan implementera AI-shoppingassistenter direkt på webbplatser eller i appar. Dessa assistenter kan lära sig från detaljhandlarens Product Catalog, tidigare chattar, kundrecensioner med mera. Det innebär att de kan reagera på förfrågningar proaktivt, anpassa sig till den specifika kontexten och delta i en dialog, i stället för att hålla sig till stelbenta manus.

AI-shoppingassistenter guidar också kunder genom olika faser i köpprocessen – från att identifiera vad de vill köpa till att stödja dem efter deras köp. Målet är att göra shoppingupplevelsen mer anpassad och effektiv för att stärka kundlojaliteten och öka försäljningen. De kan också minska arbetsbördan för interna kundtjänstteam.

Generiska AI-shoppingassistenter

Det är viktigt att skilja mellan AI-assistenter som implementeras av specifika detaljhandlare och generiska assistenter som kunder använder. Shoppare använder generiska assistenter för att söka efter erbjudanden över hela webben. Även om dessa assistenter är attraktiva i teorin, innebär de också utmaningar, till exempel tillförlitlighetsproblem, betalningssäkerhet och begränsad åtkomst till många webbplatser.

Tyska och EU-gemensamma bestämmelser om AI-applikationer inom e-handel

Användningen av AI-system är strikt reglerad. Förutom de befintliga reglerna enligt EU:s lagstiftning för e-handel måste AI uppfylla ytterligare krav enligt dataskyddslagstiftningen, tysk nationell rätt och EU:s AI-förordning.

EU:s AI-förordning

Den primära pelaren för AI-reglering i EU är förordning EU 2024/1689, även känd som "EU:s AI-förordning". Detta är det första enhetliga juridiska ramverket någonsin för AI-system i EU. Arbetet med EU:s AI-förordning inleddes 2019. Den godkändes av EU:s medlemsländer i maj 2024 och publicerades i Europeiska unionens officiella tidning den 12 juli 2024.

Enligt artikel 113 kommer AI-förordningen att tillämpas från och med den 2 augusti 2026. Vissa kapitel och avsnitt har dock redan trätt i kraft – först den 2 februari 2025 och sedan den 2 augusti 2025. Europeiska rådet och Europaparlamentet enades dock om ett ändringsförslag till EU:s AI-förordning i mars 2026 som är avsett att förenkla vissa av bestämmelserna och förlänga vissa tidsfrister.

Förordningen har en riskbaserad strategi som skiljer på förbjudna AI-metoder, högrisksystem och tillämpningar med minimal risk. En av de viktigaste bestämmelserna är artikel 5, som listar förbjudna AI-metoder. Dessa inkluderar AI-system som använder manipulativa eller vilseledande tekniker för att få kunder att fatta beslut som orsakar betydande skada för dem själva eller andra personer.

När det gäller onlinebutiker innebär detta att AI-drivna shoppingassistenter inte medvetet får manipulera kunder eller använda vilseledande tekniker för att tvinga dem till beslut som de annars inte skulle ha fattat.

E-handelsdirektivet

Utöver denna nya lag är e-handlare också bundna av EU:s lagstiftning om e-handel. Tyska företag omfattas till exempel av EU:s e-handelsdirektiv (direktiv 2000/31/EG). Detta är det grundläggande juridiska ramverket för e-handel i EU. Direktivet innehåller bestämmelser om digitala tjänsteleverantörers skyldigheter kring information, transparens och ansvar.

Det kompletterades senare av rättsakten om digitala tjänster (EU-förordning 2022/2065), som fastställer ytterligare krav för digitala plattformar.

Rättsakten om digitala tjänster (DDG)

I Tyskland kompletteras EU:s lagstiftning om e-handel av DDG. DDG antog viktiga bestämmelser från den tidigare tyska telemedialagen och innehåller bestämmelser om leverantörsidentifiering, juridiska meddelanden och andra ansvarsområden för digitala tjänsteleverantörer.

Civilrättsliga bestämmelser

AI-drivna affärsmodeller kan också omfattas av allmänna bestämmelser i civilrätten i Tyskland. I synnerhet inkluderar detta de ansvarsbestämmelser som anges i den tyska civillagen (BGB), såsom för åsidosättande av skyldighet (paragraf 280) och ansvar (paragraf 823). Kunder kan väcka skadeståndstalan om AI-system distribueras felaktigt eller om de ger felaktiga resultat.

Vilka dataskyddsbestämmelser gäller för nätbutiker som använder AI?

AI-system som används inom e-handel behandlar regelbundet identifierbara personuppgifter. Därför spelar dataskyddsbestämmelser – i synnerhet dataskyddsförordningen (GDPR) – en viktig roll vid implementering av AI-shoppingassistenter. Viktiga datapunkter inkluderar namn, kontaktuppgifter, beställningshistorik, kundbeteende, platsdata och individuella kundpreferenser.

Laglig grund för behandling

GDPR tillåter endast behandling av identifierbara personuppgifter som utförs lagligt. En av de viktigaste lagliga grunderna är behandling som utförs för att fullgöra ett avtal, enligt artikel 6 i GDPR. Behandling kan också baseras på berättigade intressen.

I vissa fall kräver behandlingen uttryckligt samtycke från den registrerade. Uttryckligt samtycke är till exempel nödvändigt om identifierbara personuppgifter behandlas för anpassning eller spårning, och dessa syften inte är strängt nödvändiga för att fullgöra ett köpeavtal.

Anpassning och profilering

Med AI-shoppingassistenter är den främsta dataskyddsfrågan den anpassade analysen av kundbeteende. Företag som utvärderar köphistorik, sökfrågor eller klickbeteende för att generera individuella produktrekommendationer måste följa principerna om dataminimering, ändamålsenlighet och transparens. Kunder måste informeras tydligt om vilka uppgifter som behandlas och i vilket syfte.

Användningen av AI-system kan också utgöra profilering, enligt artikel 4, punkt 4 i GDPR. Detta gäller automatiserad utvärdering av personliga intressen, preferenser och shoppingvanor. Företag som utför den här typen av analyser i stor skala kan bli föremål för ytterligare informationskrav eller behöva genomföra konsekvensbedömningar avseende dataskydd, enligt artikel 35 i GDPR.

Datasäkerhet och tekniska åtgärder

Nätbutiker måste se till att identifierbara personuppgifter skyddas på ett adekvat sätt. Artikel 32 i GDPR kräver att företag vidtar lämpliga tekniska och organisatoriska åtgärder för att hålla data säkra. Dessa åtgärder inkluderar åtkomstbegränsningar, kryptering, rutiner för radering av data och regelbundna säkerhetsgranskningar av använda AI-system.

Vem ansvarar för automatiserade köpbeslut?

Användningen av AI-shoppingassistenter väcker frågan om vem som ansvarar för felaktiga rekommendationer, felaktig produktinformation eller ekonomiska förluster. Inom civilrätten gäller den allmänna principen om ansvar baserat på ansvarsområden: Det är inte själva AI:n som är ansvarig, utan individerna eller företagen bakom den.

Näthandlare

I praktiken är nätbutiker som integrerar AI-shoppingassistenter i sina butiker vanligtvis de primärt ansvariga parterna. De är kundernas avtalspartners. Därför måste de se till att systemen fungerar lagligt och som avsett. Om felaktiga rekommendationer leder till skada, kan avtalsansvar enligt avsnitt 280 i BGB gälla, förutsatt att detaljhandlaren har brutit mot en skyldighet enligt köpeavtalet.

Detaljhandlaren måste också hållas ansvarig för beteendet hos det använda systemet. AI kan klassificeras som "personer som används för att uppfylla [gäldenärens] skyldigheter", i den mening som avses i avsnitt 278 i BGB. Därför har fel som görs av AI:n samma juridiska konsekvenser som fel som görs av själva företaget.

Tillverkare och utvecklare

Utöver detaljhandlaren kan även tillverkaren eller utvecklaren av AI-systemet vara ansvarig. Om skada uppstår på grund av ett tekniskt fel, kan produktansvar enligt den tyska produktansvarslagen (ProdHaftG) gälla. Förutsättningarna är att en defekt produkt släpptes ut på marknaden och att detta ledde till personskada eller egendomsskada.

Dessutom kan skadeståndsansvar enligt avsnitt 823 i BGB gälla om omsorgsplikter överträddes. Detta inkluderar otillräcklig säkerhet eller otillräckliga riskkontroller i systemdesignen.

Ansvar för automatiserade beslut

Ansvar är särskilt komplext vid helt automatiserade köpbeslut, till exempel när AI-system oberoende väljer produkter eller lägger beställningar som en del av agentic commerce. I sådana fall är den viktigaste juridiska principen att ansvaret ligger hos systemoperatören, eftersom operatören initierar och kontrollerar användningen av AI:n.

Relevanta bestämmelser inkluderar artikel 22 i GDPR, som styr automatiserat individuellt beslutsfattande. När beslut fattas som har en juridisk effekt eller avsevärt missgynnar kunder, är företag föremål för särskilda säkerhets- och informationskrav. Den aktuella kunden kan också ha rätt till mänskligt ingripande.

Kan användning av AI utesluta detaljhandlare från ansvar?

I princip tillåter inte EU-rätten att ansvar helt utesluts på grund av användning av AI. GDPR och civilrätten tillåter inte att ansvar enbart tilldelas ett automatiserat system. Därför är företag juridiskt ansvariga för deras användning, träning och utdata, även när de använder mycket automatiserade shoppingassistenter.

Vilka är kraven för konsumentskydd i onlinebutiker som använder AI?

Förutom AI- och dataskyddslagar omfattas AI-shoppingassistenter också av bestämmelserna i EU:s konsumentskyddslagstiftning. Syftet är att kunder ska få tillgång till transparent information och kunna fatta fria och välgrundade beslut, även under AI-drivna köpprocesser.

Informationskrav inom e-handel

Informationskraven enligt artikel 5 i det europeiska e-handelsdirektivet och konsumenträttighetsdirektivet 2011/83/EU är viktiga. Onlinebutiker måste tillhandahålla viktig information – såsom företagsidentifikation, produktpris, produktegenskaper och villkor – på ett tydligt och lättförståeligt sätt.

Med AI-system kan rekommendationer och chattsvar inte ersätta dessa informationskrav. En AI-assistent kan förmedla information, men det är fortfarande butiksoperatörens juridiska ansvar att denna information är fullständig, begriplig och tillgänglig.

Förbud mot vilseledande affärsmetoder

Artiklarna 5 och 6 i direktiv 2005/29/EG förbjuder otillbörliga affärsmetoder och vilseledande handlingar. Huvudfrågan för onlinebutiker som använder AI är att rekommendationer, rankningar och prisinformation måste styras av butikens intressen på ett sätt som inte är manipulativt eller dolt. Kunder måste kunna identifiera automatiserade förinställningar eller prioriteringar om dessa påverkar köpbeteendet.

Transparens i AI-rekommendationer

Transparens spelar också en viktig roll. Artikel 50 i EU:s AI-förordning – som fastställer transparenskrav för vissa AI-system – är särskilt relevant för AI-shoppingassistenter. Enligt denna artikel måste kunder generellt informeras när de interagerar med ett AI-system. Därför måste onlinebutiker som använder AI-drivna chattbotar eller AI-shoppingassistenter klargöra för kunder att de inte längre kommunicerar med riktiga människor.

Vilka är kraven för betalningsauktorisering och AI-drivna transaktioner?

Användningen av AI-shoppingassistenter innebär att köpbeslut i allt högre grad fattas av autonoma eller semiautonoma system och inte av kunder. Detta kräver en omprövning av de juridiska och tekniska skyddsåtgärderna kring betalningsauktorisering.

Juridisk grund för betalningsauktorisering

Betalningar inom e-handel omfattas av bestämmelserna i betaltjänstdirektivet (PSD2) EU 2015/2366. Enligt artikel 64 i PSD2 kräver varje betalning i allmänhet en effektiv auktorisering av betalaren. Denna auktorisering kan dock även ges efter att transaktionen har genomförts. Samtycke till en eller flera betalningstransaktioner ges i den form som överenskommits mellan betalaren och betaltjänstleverantören (PSP).

Följaktligen kan inte AI-shoppingassistenter utlösa juridiskt bindande betalningstransaktioner utan tillräcklig befogenhet. Enligt PSD2 måste dessa transaktioner auktoriseras före eller efter köpet.

Programmeringsgränssnitt för betalningsapplikationer (API:er) för AI-shoppingassistenter

AI-shoppingassistenter kräver också standardiserade API:er så att de säkert kan interagera med betalnings- och butikssystem. Betaltjänstleverantörer (PSP:er) som Stripe tillhandahåller API:er för detta ändamål.

Med Stripe Payments och Stripe Billing kan du utlösa och behandla transaktioner automatiskt. Stripe utvecklar också differentierade åtkomstkontroller som fastställer vilka produkter eller betalningsmetoder en AI-shoppingassistent kan använda och vilka åtgärder som kräver ytterligare bekräftelse.

Kontrollmekanismer och riskbegränsning

Ur ett juridiskt perspektiv kräver samspelet mellan betalningsrätt, avtalsrätt och it-säkerhet (informationsteknik) ytterligare skyddsåtgärder. Dessa inkluderar följande:

• Budgetgränser för automatiserade köp
  
• Obligatoriskt godkännande eller bekräftelse för vissa transaktioner
  
• Begränsad omfattning och varaktighet för auktoriseringar
  
• Alternativ för ångerrätt eller blockering av automatiserade processer
  

Dessa mekanismer implementerar kraven för giltigt samtycke enligt PSD2, samt principerna för dataskydd och betalningssäkerhet enligt artikel 32 i GDPR.

Agentisk handel

Med agentdriven handel förskjuts betalningsprocessens roll i allt högre grad från en aktiv mänsklig handling till ett delegerat, regelbaserat beslut som fattas av ett AI-system. Det slutgiltiga ansvaret ligger dock fortfarande antingen hos kunden eller det företag som distribuerar AI-assistenten.

Vanliga frågor om AI-shoppingassistenter i Tyskland

Nedan ger vi svar på de vanligaste frågorna om AI inom anpassad shopping och AI-shoppingassistenter i Tyskland.