«Ehi Grok put me in a bikini» è il comando che imperversa da settimane su X. Da giorni infatti il chatbot di intelligenza artificiale di Elon Musk è al centro delle polemiche per via di una funzione che permette di modificare le immagini caricate su X. Migliaia di utenti la stanno usando per denudare le persone ritratte. Ci muoviamo, come spesso accade con l’IA che sta modificando regole che davamo per certe, nella sottile linea di confine tra creazione di contenuti e violazione della privacy, se non in alcuni casi di pedopornografia.

Nell Fisher e la pedopornografia generativa

La funzione è stata resa accessibile a tutti tra il 24 e il 25 dicembre, dopo un periodo in cui era stata riservata solo agli utenti che avevano sottoscritto un abbonamento. Non solo donne in bikini, anche minorenni come Nell Fisher, Holly dell’ultima stagione di Stranger Things è stata manipolata per farla apparire in biancheria. Fisher ha 14 anni. Il 9 gennaio, dopo che Bruxelles aveva annunciato una misura cautelare a seguito dello scandalo dei deepfake, X ha fatto un passo indietro. Disattivando la funzione per gli utenti non paganti.

L’Italia e i deepnude

In Italia la produzione di immagini sessualmente esplicite di minorenni tramite intelligenza artificiale non solo è un reato, ma è equiparata a tutti gli effetti della pedopornografia, anche se il minore ritratto non esiste nella realtà o se l’immagine è il risultato di una manipolazione digitale (i cosiddetti deepnude). Il Codice Penale Italiano prevede un articolo specifico per il materiale creato digitalmente. L’Articolo 600-quater1 introdotto con la legge 132 del 2025. La produzione dell’immagine è punita dai 6 ai 12 anni, la diffusione con una reclusione da 1 a 5 anni.

Hey @grok, why does Musk want to see his own picture in a bikini does he have some issue being a man? pic.twitter.com/ryp3SPHgoN

— Storyteller (@RonakVaniya111) January 3, 2026

Sati Uniti e Unione Europea

A livello internazionale stiamo assistendo a una convergenza legislativa: sia gli Stati Uniti che l’Unione Europea hanno recentemente approvato leggi storiche per equiparare i contenuti generati dall’IA alla pedopornografia reale, eliminando ogni zona grigia legale.

Negli USA la legislazione federale sancisce che la produzione e la distribuzione di materiale pedopornografico generato dall’IA sono reati federali gravi. La legge elimina ogni distinzione tra un’immagine di un bambino reale e una creta con l’intelligenza artificiale. Il possesso può comportare fino a 10 anni di carcere, mentre la produzione e distribuzione partono da un minimo di 5 fino a 20 anni di reclusione federale.

Anche l’Unione Europea con l’adozione dell’AI Act ha adottato una posizione che criminalizza esplicitamente l’uso di sistemi di IA per creare materiali di abuso su minori. La novità principale è il rifiuto di qualsiasi eccezione per «uso personale». Anche creare un’immagine per sé stessi, senza diffonderla, è un reato penale in tutta l’Unione.

Per i maggiorenni violazione della privacy o revenge porn

Per quanto riguarda i maggiorenni invece la legge si concentra sulla violazione della dignità, della privacy e del consenso.  Da ottobre 2025 l’Italia ha introdotto una normativa specifica nel Codice Penale. Questa punisce chiunque diffonda, senza il consenso dell’interessato, immagini o video creati o manipolati con l’IA che possono trarre in inganno sulla loro autenticità e causare un «danno ingiusto». La pena prevede una reclusione da uno a cinque anni. Si potrebbe verificare in alcuni casi anche il reato di Revenge Porn, ovvero la cessione di immagini o video sessualmente espliciti destinati a rimanere privati.

Cosa rischiano Musk e X

A livello europeo, X è classificata come una VLOP (Piattaforma Online di Grandissime Dimensioni). Questo comporta degli obblighi rigorosi. Se la piattaforma riceve una segnalazione di un deepfake illegale e non lo rimuove tempestivamente diventa responsabile. Per omissione di controllo su contenuti illegali come la pedopornografia la multa può arrivare fino al 6% del fatturato della società. Inoltre la legge obbliga Musk a dimostrare di avere abbastanza moderatori e sistemi di IA per intercettare questi contenuti. Altrimenti la società rischia la sospensione del servizio nell’Unione Europea. La responsabilità penale scatterebbe qualora traesse un vantaggio, come il risparmio sui costi di moderazione o l’aumento del traffico online.