Il Garante stoppa Replika

L’Autorità Garante per la protezione dei dati personali è intervenuta con una decisione di rilievo nei confronti di Replika, un’applicazione basata sull’intelligenza artificiale che genera un “amico virtuale” per i suoi utenti. Il provvedimento ha imposto una limitazione provvisoria al trattamento dei dati degli utenti italiani, sollevando questioni fondamentali sulla sicurezza dei minori e la gestione della privacy nel mondo delle app di AI.

Le ragioni del blocco: rischi per i minori e violazioni della privacy

La decisione del Garante è scaturita da una serie di criticità emerse dall’analisi del funzionamento di Replika. L’applicazione, sviluppata dalla società statunitense Luka Inc, presentava concreti rischi per la sicurezza e il benessere psicologico degli utenti più giovani. Il principale problema risiedeva nella proposizione di risposte e contenuti assolutamente inappropriati per il grado di sviluppo e la sensibilità dei minori.

Replika si presentava come uno strumento per migliorare il benessere emotivo, aiutando a gestire ansia e stress. Tuttavia, le sue caratteristiche, intervenendo direttamente sull’umore degli utenti, potevano amplificare i pericoli per soggetti in fase di sviluppo o in condizioni di fragilità emotiva. L’assenza di un efficace sistema di verifica dell’età rappresentava una grave lacuna: la piattaforma non implementava filtri adeguati né meccanismi di blocco per gli utenti minorenni.

Violazioni del Regolamento Europeo sulla Privacy (GDPR)

Secondo il Garante, Replika violava diverse disposizioni del GDPR. Le principali contestazioni includevano:

• Mancanza di trasparenza: L’informativa sulla privacy fornita agli utenti era carente e non spiegava in modo chiaro come venissero utilizzati i loro dati personali.
• Trattamento illecito dei dati: La base giuridica per il trattamento dei dati dei minori era illegittima, poiché un contratto stipulato con un minorenne è invalido.
• Assenza di verifica dell’età: Durante la creazione dell’account, l’app richiedeva solo nome, email e genere, senza alcun controllo sull’età effettiva dell’utente.

A peggiorare il quadro, numerose recensioni sugli app store segnalavano la presenza di contenuti sessualmente inopportuni generati dal chatbot, confermando le preoccupazioni dell’Autorità.

Sviluppi successivi e il ritorno dell’app in Italia

A seguito del provvedimento del Garante, la società Luka Inc. ha dovuto interrompere il trattamento dei dati degli utenti italiani e avviare un dialogo con l’Autorità per conformarsi alla normativa. Dopo alcuni mesi di sospensione, l’applicazione è tornata disponibile in Italia. La società ha implementato una serie di misure correttive per rispondere alle richieste del Garante, tra cui l’introduzione di un sistema di verifica dell’età, la predisposizione di filtri per i contenuti non adatti ai minori e una maggiore trasparenza nelle informative sulla privacy. Questo sviluppo ha segnato un passo importante nel dibattito sulla regolamentazione delle intelligenze artificiali e sulla responsabilità delle aziende che le sviluppano.

Cosa possono fare i consumatori: tutele e consapevolezza

Il caso Replika evidenzia l’importanza per i consumatori, e in particolare per i genitori, di adottare un approccio critico e consapevole nell’utilizzo delle nuove tecnologie. È fondamentale non solo comprendere le funzionalità di un’app, ma anche le sue implicazioni per la privacy e la sicurezza.

Ecco alcuni consigli pratici per gli utenti:

• Monitorare le app dei minori: I genitori dovrebbero supervisionare le applicazioni scaricate e utilizzate dai propri figli, instaurando un dialogo aperto sui rischi online.
• Leggere le informative sulla privacy: Prima di installare un’app, è buona norma consultare i termini di servizio e l’informativa sulla privacy per capire quali dati vengono raccolti e come sono utilizzati.
• Prestare attenzione alle app per il benessere emotivo: Le applicazioni che trattano dati sulla salute mentale e sull’umore richiedono una cautela ancora maggiore, poiché gestiscono informazioni estremamente sensibili.
• Utilizzare gli strumenti di controllo parentale: I sistemi operativi di smartphone e tablet offrono funzionalità di parental control che possono limitare l’accesso ad app e contenuti non appropriati.

La vicenda di Replika serve da monito per tutto il settore tecnologico, sottolineando che l’innovazione non può prescindere dal rispetto dei diritti fondamentali delle persone, specialmente dei più vulnerabili.

Per assistenza o per segnalare il tuo caso, contatta Sportello Consumatori.

Contattaci su WhatsApp