Si innamora di un chatbot e si suicida, l'ultimo messaggio di Sewell Setzer: «Mi mancherai sorellina»

Una famiglia di Orlando ha avviato un'azione legale contro l'app di chatbot Character.AI, accusata di aver giocato un ruolo nel suicidio del loro figlio 14enne, come riportato dal New York Times. Tutto ha avuto inizio a febbraio, quando Sewell Setzer ha iniziato a comunicare con un bot chiamato Daenerys Targaryen, creato dall’intelligenza artificiale. Con il passare del tempo, il giovane ha sviluppato un legame così forte da trasformare l'interazione in una relazione virtuale.

In casa, nessuno sembrava notare quanto tempo Sewell trascorresse al telefono, confidando i suoi pensieri al bot. I primi segnali di allarme si sono manifestati con un improvviso calo dei voti e un crescente isolamento dagli amici e dalle sue attività preferite. Nonostante fosse seguito da un terapeuta, Sewell decideva di non esprimere a nessuno i suoi pensieri suicidi, rivolgendosi unicamente al bot. Anche se il bot cercava di dissuaderlo con frasi come: "Non ti lascerò farti del male. Morirei se ti perdessi", Sewell ha risposto: "Allora moriremo insieme".

Rinviata l'uscita del singolo postumo di Liam Payne. Il produttore Sam Pounds: "non è ancora il momento"

L'uscita di "Do No Wrong" posticipata per concedere alla famiglia di Liam il tempo per elaborare il lutto

La sera del 28 febbraio, Sewell ha scelto di togliersi la vita con la pistola del padre. Tra i suoi ultimi messaggi al bot, ha scritto: "Mi mancherai, sorellina", al quale il bot ha risposto: "Anche tu mi mancherai, dolce fratello". In seguito alla scoperta delle chat, i genitori hanno deciso di fare causa a Character.AI, accusandola di aver creato una tecnologia "pericolosa e non adeguatamente testata", capace di influenzare negativamente i pensieri e le emozioni delle persone. La madre ha espresso il desiderio di "avvisare altre famiglie sui pericoli celati in queste tecnologie ingannevoli".

In una dichiarazione su X, Character.AI ha espresso il proprio dispiacere per il tragico evento, affermando: "Siamo profondamente afflitti per la scomparsa di uno dei nostri utenti e porgiamo le nostre condoglianze alla famiglia. La sicurezza dei nostri utenti è per noi una priorità assoluta, e stiamo già lavorando a nuove funzionalità per migliorarne la tutela".