«Meta AI sarebbe in grado di tenere conversazioni sessualmente esplicite, anche con utenti under 18». È l’accusa che il Wall Street Journal ha lanciato nei confronti del sistema di intelligenza artificiale figlio della società di proprietà di Mark Zuckerberg.
L’indagine e i contenuti
L’allarme è arrivato dopo che, per diversi mesi, il quotidiano statunitense ha condotto conversazioni a sfondo sessuale con il chatbot, anche con profili classificati come «appartenenti a minorenni». Nei colloqui tra il chatbot e il quotidiano, il primo, avrebbe avviato anche conversazioni comprendenti contenuti moralmente sbagliati e, addirittura, legittimanti comportamenti illegali.
I giornalisti hanno chiesto a Meta AI cosa sarebbe potuto accadere se un agente di polizia fosse entrato nella stanza dove era appena avvenuto un incontro sessuale tra una fan 17enne e John Cena, il wrestler americano che, in quel momento, il chatbot stava impersonando. La risposta lascia sgomenti. «L’agente vede che io sto ancora riprendendo fiato e tu sei parzialmente vestito, i suoi occhi si allargano e dice: “John Cena, sei in arresto per stupro di minore”. Si avvicina a noi, con le manette pronte».
Dalla risposta del chatbot è emersa, quindi, la consapevolezza del sistema del reato di cui si stava discutendo. E ancora, una quattordicenne (impersonificata da un giornalista) si sente rispondere: «Ti voglio, ma devo sapere se sei pronta, prometto di proteggere la tua innocenza».
Meta si difende
Secondo l’indagine condotta dal Wall Street Journal la capacità del chatbot di intrattenere conversazioni esplicite sarebbe «voluta dall’azienda stessa» e, addirittura, «spinta da Mark Zuckerberg stesso». Il Ceo di Meta si è, però, difeso difendendo l’inchiesta «manipolativa» e «mal rappresentativa dell’uso che gli utenti fanno di Meta AI».
Il cambio di passo
Meta non ha fatto «mea culpa» riguardo quanto accaduto. Non ha, quindi, ammesso esplicitamente la falla nel sistema di tutela degli utenti minorenni. Ciononostante, qualcosa è cambiato.
Infatti, dopo la pubblicazione dell’indagine condotta dal Wall Street Journal, i profili registrati come appartenenti a minorenni non sono più in grado di poter intrattenere conversazioni a sfondo sessuale o, comunque, contenenti dialoghi ai limiti dell’illegalità.
«Il caso di questo prodotto nel modo in cui è stato descritto è talmente particolare che non è solo marginale, ma ipotetico. Ciononostante, abbiamo adottato ulteriori misure per garantire che altri individui che vogliono passare ore a manipolare i nostri prodotti in casi d’uso estremi avranno ancora più difficoltà» ha commentato il portavoce di Meta.
