I RISCHI DELL’APP «REPLIKA»

L’amico virtuale sotto la lente
del Garante della privacy

Altolà del Garante della Privacy all'App Replika

 

Altolà, da parte del Garante della privacy, all’app Replika, il programma chatbot che non si limita a parlare con le persone, ma impara i loro stili di messaggistica per imitarli.

Un vero e proprio «amico virtuale», soluzione artificiosa presentata come in grado di migliorare il benessere emotivo dell’utente, e che aiuterebbe quest’ultimo a comprendere i propri pensieri e calmare l’ansia, attraverso la gestione dello stress, la socializzazione e la ricerca dell’amore.

Il lato oscuro dell’app Replika

La App Replika, un software di intelligenza artificiale, dotata di un potenzialmente pericoloso affective computingReplika è dotato di un’interfaccia scritta e vocale che, basandosi sull’Intelligenza artificiale, genera un «amico virtuale», sfruttando naturalmente i dati personali dell’interlocutore. Troppo per l’arbitro della privacy di piazza Venezia che, per il momento, ha sventolato il cartellino giallo dicendo che l’applicazione non potrà usare i dati personali degli utenti italiani.

Nonostante tale filantropia, l’applicazione non ha convinto però i guardiani della privacy, secondo i quali il software ha caratteristiche che, intervenendo sull’umore della persona, può accrescere i rischi per i soggetti ancora in una fase di sviluppo o in stato di fragilità emotiva.

L’intervento del Garante della privacy

Il Garante della privacy, infatti, ha disposto con effetto immediato nei confronti della società statunitense che sviluppa e gestisce l’applicazione, la limitazione provvisoria del trattamento dei dati.

Secondo l’Autorità guidata da Pasquale Stanzione, Replika presenta concreti rischi per i minori d’età, a partire dalla proposizione ad essi di risposte assolutamente inidonee al loro grado di sviluppo.

Manca infatti ogni meccanismo di verifica dell’età: filtri per i minori, ma anche blocchi dell’app di fronte a dichiarazioni in cui l’utente espliciti la propria minore età. Durante la fase di creazione di un account la piattaforma si limita a richiedere solo nome, e-mail e genere.

Non va meglio nella proposizione delle «risposte» automatiche da parte del chatbot, che risultano spesso palesemente in contrasto con le tutele rafforzate che vanno assicurate ai minori e a tutti i soggetti più fragili.

Diverse recensioni pubblicate nei due principali «App Store», peraltro, contengono commenti di utenti che lamentano contenuti sessualmente inopportuni.

In assenza di contromisure, la società sviluppatrice statunitense Luka Inc rischia una sanzione fino a 20 milioni di euro o fino al 4% del fatturato globale annuo.

Alessandro Alongi

 

 

NEL PIANETA DIGITALE

Lascia un commento