Gli strumenti legati all’intelligenza artificiale sono ormai entrati nella pratica quotidiana e gli usi sono i più diversi, sia in ambito professionale sia privato. Proprio lo strumento di IA integrato nella piattaforma X è ora al centro di un dibattito internazionale sui rischi per i cittadini dovuti all’uso improprio della piattaforma nella produzione di contenuti illeciti. Campiamo insieme cosa è successo e come è intervenuta l’Unione Europea.
Negli ultimi mesi Grok ha acceso il dibattito non solo per testi controversi o risposte discutibili, ma soprattutto per la circolazione di immagini manipolate a sfondo sessuale, in alcuni casi non consensuali. Contenuti che, come evidenzia la nota ufficiale dell’UE, hanno sollevato forti preoccupazioni sul piano della sicurezza e dei diritti fondamentali.
È da qui che parte la nuova mossa dell’Unione Europea. Il 26 gennaio 2026 la Commissione europea ha annunciato l’apertura di una nuova indagine formale contro X, affiancata dall’estensione di un procedimento già avviato nel dicembre 2023. L’obiettivo è valutare l’uso di Grok all’interno della piattaforma e la gestione dei rischi legati ai suoi strumenti di generazione di testi e immagini.
Secondo Bruxelles, alcuni dei pericoli più temuti si sarebbero già concretizzati. La Commissione parla, infatti, di diffusione di contenuti illegali, comprese immagini sessualmente esplicite manipolate, che possono arrivare a configurare materiale di abuso sessuale su minori. Contenuti che, una volta messi in circolazione, possono provocare danni seri e duraturi alle persone coinvolte.
Le immagini generate dall’IA e l’indagine UE
Il punto più delicato riguarda le immagini. Grok consente agli utenti di creare e modificare contenuti visivi, e secondo l’UE X non avrebbe valutato né contenuto in modo adeguato i rischi connessi a queste funzionalità. Nello specifico, quindi, la Commissione vuole capire se l’azienda abbia fatto abbastanza per prevenire deepfake sessuali, immagini intime non consensuali e altre forme di violenza digitale.
Essendo X classificata come “Very Large Online Platform” secondo il Digital Services Act (DSA), il regolamento europeo impone obblighi particolarmente stringenti. Tra questi c’è proprio quello di analizzare in anticipo i rischi sistemici legati ai propri servizi e di intervenire rapidamente quando emergono problemi gravi.
LEGGI ANCHE: — Il cambiamento climatico minaccia la cultura: il ciclone Harry come prova generale del futuro
La Commissione sta verificando se X abbia violato queste regole: dall’assenza di una valutazione preventiva specifica su Grok alla gestione complessiva dei rischi legati agli algoritmi. Come ha dichiarato Henna Virkkunen, vicepresidente esecutiva della Commissione, la diffusione di deepfake sessuali è una forma di violenza inaccettabile. Ed è proprio su questo confine, tra libertà tecnologica e responsabilità, che ora si gioca una delle partite più delicate dell’era dell’intelligenza artificiale.
Foto Shutterstock