Circa due tedeschi su tre utilizzano chatbot basati sull'intelligenza artificiale o assistenti vocali almeno una volta alla settimana. Per le aziende, è importante notare che molti tedeschi usano l'IA specificamente per cercare prodotti e servizi.

Detto ciò, molti clienti desiderano ancora l'opzione di contattare persone reali per ricevere assistenza durante lo shopping online, specialmente se sorgono complicazioni. Secondo Bitkom, l'associazione digitale centrale in Germania, solo il 36% degli acquirenti desidera ricevere consigli dai chatbot quando riscontra problemi, come conferme d'ordine mancanti o consegne in ritardo. Questo dimostra che i chatbot con risposte preconfigurate hanno spesso un'utilità limitata.

Gli assistenti agli acquisti basati sull'IA potrebbero aiutare a risolvere questo problema. Offrono molto più delle semplici funzioni di servizio clienti dei chatbot tradizionali e stanno creando nuove opportunità per il commercio al dettaglio online. In questo articolo spieghiamo cosa sono gli assistenti agli acquisti basati sull'IA, incluso come funzionano e quali normative di carattere giuridico sono in vigore in Germania e nell'UE. Spieghiamo inoltre chi è responsabile delle decisioni di acquisto guidate dall'IA e quali sono i requisiti in termini di protezione dei consumatori e autorizzazione di pagamento automatizzata.

Punti salienti

• Gli assistenti agli acquisti basati sull'IA personalizzano lo shopping online e hanno capacità significativamente superiori rispetto ai chatbot tradizionali.
  
• L'AI Act dell'UE, le leggi sull'e-commerce del Regolamento generale sulla protezione dei dati (GDPR) e il diritto nazionale tedesco contengono normative complete sull'uso degli assistenti agli acquisti basati sull'IA.
  
• I negozi online devono informare i clienti delle interazioni basate sull'IA e del loro funzionamento fornendo informazioni coerenti e trasparenti.
  
• La responsabilità per raccomandazioni o acquisti errati ricade in genere sul commerciante online che utilizza il sistema di IA.
  
• I processi di acquisto e pagamento basati sull'IA richiedono chiari meccanismi di controllo tecnici e di carattere giuridico.
  

Cos'è un assistente agli acquisti basato sull'intelligenza artificiale?

Un assistente agli acquisti basato sull'intelligenza artificiale è un agente intelligente e consapevole del contesto che guida i clienti attraverso l'intero processo di acquisto su un sito web o un'app. A differenza dei chatbot tradizionali, che si basano su script fissi e domande frequenti statiche, gli assistenti basati sull'intelligenza artificiale offrono raccomandazioni personalizzate, possono preparare o eseguire azioni e fornire assistenza post-acquisto.

Come funzionano gli assistenti agli acquisti basati sull'intelligenza artificiale?

Gli assistenti agli acquisti basati sull'intelligenza artificiale analizzano il comportamento dei clienti in tempo reale. Catturano le preferenze, suggeriscono prodotti adatti e rispondono alle domande durante il processo di acquisto. Inoltre reagiscono a situazioni specifiche, invece di fornire semplicemente risposte preconfigurate.

Tuttavia, non si limitano a consigliare i clienti. Possono anche fare raccomandazioni sui prodotti in base alla cronologia degli acquisti, supportare i clienti durante il checkout e fornire assistenza dopo gli acquisti.

Assistenti agli acquisti basati sull'intelligenza artificiale dei rivenditori

I rivenditori online in Germania possono implementare assistenti agli acquisti basati sull'intelligenza artificiale direttamente su siti web o app. Questi assistenti possono imparare dal catalogo prodotti del rivenditore, da chat precedenti, da recensioni dei clienti e altro ancora. Ciò significa che possono reagire alle richieste in modo proattivo, adattandosi al contesto specifico e avviando un dialogo, piuttosto che attenersi a script rigidi.

Gli assistenti agli acquisti basati sull'intelligenza artificiale guidano anche i clienti attraverso diverse fasi del processo di acquisto: dall'identificazione di ciò che vogliono acquistare al supporto dopo i loro acquisti. L'obiettivo è rendere l'esperienza di acquisto più personalizzata ed efficiente per rafforzare la fedeltà dei clienti e aumentare le vendite. Possono anche alleggerire il carico di lavoro per i team di assistenza clienti interni.

Assistenti agli acquisti basati sull'intelligenza artificiale generici

È importante fare una distinzione tra gli assistenti basati sull'intelligenza artificiale implementati da rivenditori specifici e gli assistenti generici utilizzati dai clienti. Gli acquirenti utilizzano assistenti generici per cercare offerte su tutto il Web. Sebbene questi assistenti siano attraenti in teoria, presentano anche delle sfide, come problemi di affidabilità, sicurezza dei pagamenti e accesso limitato a molti siti web.

Normative tedesche e dell'UE sulle applicazioni di IA nel commercio elettronico

L'uso dei sistemi di IA è fortemente regolamentato. Oltre alle regole esistenti ai sensi del diritto dell'UE in materia di commercio elettronico, l'IA deve soddisfare ulteriori requisiti previsti dalle leggi sulla protezione dei dati, dal diritto nazionale tedesco e dalla legge sull'IA dell'UE.

Legge sull'IA dell'UE

Il pilastro principale della regolamentazione sull'IA nell'UE è il Regolamento UE 2024/1689, noto anche come "legge sull'IA dell'UE". Si tratta del primo quadro normativo di carattere giuridico unificato per i sistemi di IA nell'UE. I lavori sulla legge sull'IA dell'UE sono iniziati nel 2019. È stata approvata dagli stati membri dell'UE nel maggio 2024 e pubblicata nella Gazzetta ufficiale dell'Unione europea in data 12 luglio 2024.

Secondo l'articolo 113, la legge sull'IA sarà in vigore a partire dal giorno 2 agosto 2026. Tuttavia, alcuni capitoli e sezioni sono già stati promulgati, in primo luogo in data 2 febbraio 2025 e successivamente in data 2 agosto 2025. Il Consiglio europeo e il Parlamento europeo hanno concordato un emendamento alla legge sull'IA dell'UE a marzo 2026, inteso a semplificare alcune delle disposizioni e a prorogare alcune scadenze.

La legge adotta un approccio basato sul rischio, differenziando pratiche di IA vietate, sistemi ad alto rischio e applicazioni a rischio minimo. Una delle disposizioni principali è l'articolo 5, che elenca le pratiche di IA vietate. Tra queste rientrano i sistemi di IA che usano tecniche manipolative o ingannevoli per indurre i clienti a prendere decisioni che causano danni significativi a se stessi o ad altre persone.

Nel contesto dei negozi online, questo significa che gli assistenti per gli acquisti basati sull'IA non devono manipolare deliberatamente i clienti o impiegare tecniche ingannevoli per forzarli a prendere decisioni che altrimenti non avrebbero preso.

Direttiva sul commercio elettronico

Oltre a questa nuova legge, i commercianti online sono vincolati anche al diritto dell'UE in materia di commercio elettronico. Ad esempio, le attività tedesche sono soggette alla direttiva dell'UE sul commercio elettronico (Direttiva 2000/31/CE). Questo è il quadro di carattere giuridico di base per il commercio elettronico nell'UE. La direttiva contiene normative sui doveri dei fornitori di servizi digitali in merito a informazioni, trasparenza e responsabilità.

In seguito è stata integrata dalla legge sui servizi digitali (Regolamento UE 2022/2065), che stabilisce ulteriori requisiti per le piattaforme digitali.

Legge sui servizi digitali (DDG)

In Germania, il diritto dell'UE in materia di commercio elettronico è integrato dal DDG. Il DDG ha adottato normative chiave della precedente legge tedesca sui media telematici e contiene normative sull'identificazione dei fornitori, sulle note legali e su altre responsabilità per i fornitori di servizi digitali.

Normative di diritto civile

I modelli di business basati sull'IA possono anche essere soggetti alle normative generali di diritto civile in Germania. In particolare, questo include le disposizioni in materia di responsabilità stabilite nel Codice civile tedesco (BGB), ad esempio per violazione dei doveri (sezione 280) e responsabilità (sezione 823). I clienti possono avanzare richieste di risarcimento danni se i sistemi di IA vengono impiegati in modo improprio o se forniscono risultati errati.

Quali normative sulla protezione dei dati si applicano ai negozi online che utilizzano l'intelligenza artificiale?

I sistemi di intelligenza artificiale utilizzati nell'e-commerce elaborano regolarmente informazioni sull'identità. Pertanto, le normative sulla protezione dei dati, in particolare il Regolamento generale sulla protezione dei dati (GDPR), svolgono un ruolo chiave nell'implementazione degli assistenti agli acquisti basati sull'intelligenza artificiale. Importanti punti dati includono nomi, dettagli di contatto, cronologia degli ordini, comportamento dei clienti, dati sulla posizione e preferenze dei singoli clienti.

Base legale dell'elaborazione

Il GDPR consente solo l'elaborazione di informazioni sull'identità eseguita in modo legale. Una delle principali basi legali è l'elaborazione condotta per l'esecuzione di un contratto, in base all'Articolo 6 del GDPR. L'elaborazione può essere basata anche su interessi legittimi.

In alcuni casi, l'elaborazione richiede il consenso esplicito dell'interessato. Ad esempio, il consenso esplicito è necessario se le informazioni sull'identità vengono elaborate ai fini della personalizzazione o del tracciamento e tali finalità non sono strettamente necessarie per l'esecuzione di un contratto di acquisto.

Personalizzazione e profilazione

Con gli assistenti agli acquisti basati sull'intelligenza artificiale, la principale preoccupazione in materia di protezione dei dati è l'analisi personalizzata del comportamento dei clienti. Le aziende che valutano la cronologia degli acquisti, le query di ricerca o il comportamento dei clic per generare raccomandazioni sui prodotti individuali devono osservare i principi di minimizzazione dei dati, intenzionalità e trasparenza. I clienti devono essere chiaramente informati su quali dati vengono elaborati e per quale scopo.

L'uso di sistemi di intelligenza artificiale può anche costituire profilazione, in base all'Articolo 4, n. 4 del GDPR. Questo si applica alla valutazione automatizzata di interessi, preferenze e abitudini di acquisto personali. Le aziende che conducono questo tipo di analisi su larga scala possono essere soggette a requisiti di informazioni aggiuntivi o tenute a condurre valutazioni di impatto sulla protezione dei dati, in base all'Articolo 35 del GDPR.

Sicurezza dei dati e misure tecniche

I rivenditori online devono garantire che le informazioni sull'identità siano adeguatamente protette. L'Articolo 32 del GDPR richiede alle attività di adottare misure tecniche e organizzative appropriate per mantenere i dati al sicuro. Queste misure includono limitazioni di accesso, crittografia, criteri di eliminazione dei dati e controlli di sicurezza regolari dei sistemi di intelligenza artificiale utilizzati.

Chi è responsabile delle decisioni di acquisto automatizzate?

L'uso di assistenti agli acquisti basati sull'intelligenza artificiale solleva la questione di chi sia responsabile di raccomandazioni errate, informazioni sui prodotti non corrette o perdite finanziarie. Nel diritto civile, si applica il principio generale della responsabilità basata sulle aree di responsabilità: non è l'intelligenza artificiale in sé a essere responsabile, ma le persone fisiche o le aziende che ci stanno dietro.

Commercianti online

In pratica, i rivenditori online che integrano assistenti agli acquisti basati sull'intelligenza artificiale nei loro negozi sono in genere i principali responsabili. Sono i partner contrattuali dei clienti. Pertanto, devono garantire che i sistemi operino in modo legale e come previsto. Se le raccomandazioni non corrette causano danni, può applicarsi la responsabilità contrattuale ai sensi dell'Articolo 280 del BGB, a condizione che il rivenditore abbia violato un obbligo previsto dal contratto di vendita.

Il rivenditore deve essere ritenuto responsabile anche del comportamento del sistema utilizzato. L'intelligenza artificiale può essere classificata come "persone utilizzate per adempiere [gli obblighi del debitore]", ai sensi dell'Articolo 278 del BGB. Pertanto, gli errori commessi dall'intelligenza artificiale hanno le stesse conseguenze legali degli errori commessi dall'azienda stessa.

Produttori e sviluppatori

Oltre al rivenditore, può essere responsabile anche il produttore o lo sviluppatore del sistema di intelligenza artificiale. Se i danni derivano da un difetto tecnico, può applicarsi la responsabilità del prodotto ai sensi della legge tedesca sulla responsabilità del prodotto (ProdHaftG). Le condizioni sono che sia stato immesso sul mercato un prodotto difettoso e che questo abbia provocato lesioni personali o danni alla proprietà.

Inoltre, può applicarsi la responsabilità per atti illeciti ai sensi dell'Articolo 823 del BGB in caso di violazione dei doveri di diligenza. Questo include una sicurezza inadeguata o controlli dei rischi insufficienti nella progettazione del sistema.

Responsabilità per le decisioni automatizzate

La responsabilità è particolarmente complessa nel caso di decisioni di acquisto completamente automatizzate, come quando i sistemi di intelligenza artificiale selezionano in modo indipendente i prodotti o effettuano ordini nell'ambito del commercio agentico. In questi casi, il principio legale chiave è che la responsabilità spetta all'operatore del sistema, in quanto è lui ad avviare e a controllare l'uso dell'intelligenza artificiale.

Le disposizioni pertinenti includono l'Articolo 22 del GDPR, che disciplina il processo decisionale individuale automatizzato. Quando vengono prese decisioni che hanno un effetto legale o che svantaggiano in modo significativo i clienti, le attività sono soggette a requisiti di sicurezza e informazione speciali. Il cliente in questione potrebbe anche avere diritto all'intervento umano.

L'uso dell'intelligenza artificiale può escludere i rivenditori dalla responsabilità?

In linea di principio, la legislazione dell'UE non consente che la responsabilità sia completamente esclusa a causa dell'uso dell'intelligenza artificiale. Il GDPR e il diritto civile non consentono di attribuire la responsabilità esclusivamente a un sistema automatizzato. Pertanto, anche quando si utilizzano assistenti agli acquisti altamente automatizzati, le aziende rimangono legalmente responsabili per il loro utilizzo, per il loro addestramento e per i loro risultati.

Quali sono i requisiti per la tutela dei consumatori nei negozi online che usano l'IA?

Oltre alle leggi sull'IA e sulla protezione dei dati, gli assistenti per gli acquisti basati sull'IA sono soggetti anche alle normative del diritto dell'UE in materia di tutela dei consumatori. L'obiettivo è consentire ai clienti di accedere a informazioni trasparenti e prendere decisioni libere e informate, anche durante i processi di acquisto basati sull'IA.

Requisiti di informazione nel commercio al dettaglio online

I requisiti di informazione previsti dall'articolo 5 della direttiva europea sul commercio elettronico e dalla Direttiva sui diritti dei consumatori 2011/83/UE sono importanti. I negozi online devono fornire le informazioni principali, ad esempio identificazione dell'attività, prezzo del prodotto, caratteristiche del prodotto, nonché termini e condizioni, in modo chiaro e comprensibile.

Con i sistemi di IA, le raccomandazioni e le risposte in chat non possono sostituire questi requisiti di informazione. Un assistente basato sull'IA può trasmettere informazioni, ma è sempre una responsabilità di carattere giuridico del gestore del negozio fare in modo che queste informazioni siano complete, comprensibili e accessibili.

Divieto di pratiche commerciali ingannevoli

Gli articoli 5 e 6 della Direttiva 2005/29/CE vietano le pratiche commerciali sleali e le azioni ingannevoli. Il problema principale per i negozi online che usano l'IA è che le raccomandazioni, le classifiche e le informazioni sui prezzi devono essere guidate dagli interessi del negozio in un modo che non sia manipolativo o nascosto. I clienti devono essere in grado di identificare le preimpostazioni o le priorità automatizzate, qualora queste abbiano un impatto sul comportamento di acquisto.

Trasparenza nelle raccomandazioni basate sull'IA

Anche la trasparenza ha un ruolo importante. L'articolo 50 della legge sull'IA dell'UE, che stabilisce requisiti di trasparenza per determinati sistemi di IA, è particolarmente rilevante per gli assistenti per gli acquisti basati sull'IA. In base a questo articolo, i clienti in genere devono essere informati ogni volta che interagiscono con un sistema di IA. Pertanto, i negozi online che usano chatbot o assistenti per gli acquisti basati sull'IA devono chiarire ai clienti che non stanno più comunicando con persone reali.

Quali sono i requisiti per l'autorizzazione dei pagamenti e le transazioni basate sull'IA?

L'uso di assistenti per gli acquisti basati sull'IA significa che le decisioni di acquisto vengono prese sempre più spesso da sistemi autonomi o semiautonomi e non dai clienti. Ciò richiede un riesame delle tutele di carattere giuridico e tecniche in merito all'autorizzazione dei pagamenti.

Base giuridica per l'autorizzazione dei pagamenti

I pagamenti nel commercio elettronico sono soggetti alle disposizioni della Direttiva sui servizi di pagamento (PSD2) UE 2015/2366. Ai sensi dell'articolo 64 della PSD2, in genere ogni pagamento richiede un'autorizzazione effettiva da parte del pagatore. Tuttavia, tale autorizzazione può essere fornita anche dopo l'esecuzione della transazione. Il consenso a una o più transazioni di pagamento viene fornito nella forma concordata tra il pagatore e il fornitore di servizi di pagamento (PSP).

Di conseguenza, gli assistenti per gli acquisti basati sull'IA non possono attivare transazioni di pagamento legalmente vincolanti senza un'autorizzazione sufficiente. Secondo la PSD2, queste transazioni devono essere autorizzate prima o dopo l'acquisto.

Interfacce di programmazione delle applicazioni (API) di pagamento per assistenti per gli acquisti basati sull'IA

Gli assistenti per gli acquisti basati sull'IA richiedono anche API standardizzate in modo da poter interagire in modo sicuro con i sistemi di pagamento e dei negozi. I fornitori di servizi di pagamento come Stripe forniscono API per questo scopo.

Stripe Payments e Stripe Billing ti consentono di attivare ed elaborare automaticamente le transazioni. Stripe sta inoltre sviluppando controlli di accesso differenziati che stabiliscono quali prodotti o metodi di pagamento può usare un assistente per gli acquisti basato sull'IA e quali azioni richiedono un'ulteriore conferma.

Meccanismi di controllo e mitigazione del rischio

Dal punto di vista legale, l'interazione tra diritto dei pagamenti, diritto dei contratti e sicurezza informatica (IT) richiede tutele aggiuntive. Queste includono quanto segue:

• Limiti di budget per gli acquisti automatizzati
  
• Approvazione o conferma obbligatoria per determinate transazioni
  
• Ambito e durata limitati delle autorizzazioni
  
• Opzioni per il diritto di recesso o il blocco dei processi automatizzati
  

Questi meccanismi implementano i requisiti per un consenso valido ai sensi della PSD2, nonché i principi di sicurezza dei pagamenti e protezione dei dati ai sensi dell'articolo 32 del GDPR.

Commercio agentico

Con il commercio agentico, il ruolo della procedura di pagamento si sta spostando sempre più da un'azione umana attiva a una decisione delegata e basata su regole presa da un sistema di IA. Tuttavia, la responsabilità ultima ricade sempre sul cliente o sull'azienda che distribuisce l'assistente basato sull'IA.

Domande frequenti sugli assistenti agli acquisti basati sull'intelligenza artificiale in Germania

Di seguito forniamo le risposte alle domande più frequenti sull'intelligenza artificiale negli acquisti personalizzati e sugli assistenti agli acquisti basati sull'intelligenza artificiale in Germania.