L’Ue apre indagine su Grok per deepfake sessuali, ‘degradazione’

(Keystone-ATS) “I deepfake sessuali non consensuali di donne e bambini sono una forma violenta e inaccettabile di degradazione”, dichiara la vicepresidente della Commissione, Henna Virkkunen. Intanto, scatta la sorveglianza rafforzata dell’Ue anche su WhatsApp che rientra nel perimetro delle piattaforme soggette agli obblighi del Digital Services Act, la normativa europea volta a modernizzare le regole sui servizi digitali.

L’indagine di Bruxelles esaminerà se X abbia correttamente valutato e mitigato i rischi legati all’integrazione di Grok, inclusa la diffusione di contenuti illegali come immagini sessualmente esplicite manipolate con l’intelligenza artificiale, che potrebbero configurare materiale di abuso sessuale su minori.

L’intervento della Commissione arriva dopo che le autorità di California, Australia, Brasile, Canada, Francia, India, Indonesia, Irlanda, Malesia e Regno Unito hanno condannato la società, avviato indagini o bloccato Grok.

A seguito di questi provvedimenti, il 14 gennaio X ha introdotto per tutti gli utenti, anche quelli paganti, restrizioni che impediscono di modificare e generare immagini di persone reali in bikini o seminude.

Un’opzione che solo dal 29 dicembre al 9 gennaio – secondo l’organizzazione britannica no-profit Center for Countering Digital Hate – ha consentito di produrre o modificare 3 milioni di immagini sessualmente esplicite e non consensuali. Ma nonostante le limitazioni introdotte, la testata Wired avrebbe dimostrato che il chatbot sarebbe stato in grado comunque di generare immagini sessualizzate.

Con l’apertura del nuovo procedimento Ue le autorità nazionali degli Stati membri vengono sollevate dalle competenze di vigilanza sulle presunte violazioni. La Commissione, inoltre, continuerà a raccogliere prove e potrà imporre misure provvisorie in assenza di adeguamenti significativi del servizio.

L’indagine su X si inserisce nel quadro del procedimento già avviato da Bruxelles a dicembre 2023 sul meccanismo di notifica e azione, le misure di contrasto ai contenuti illegali e i rischi legati ai sistemi di raccomandazione. Per altre violazioni tra cui l’uso di design ingannevole, la scarsa trasparenza pubblicitaria e l’insufficiente accesso ai dati per i ricercatori la Commissione ha già adottato lo scorso 5 dicembre una decisione di non conformità, infliggendo a X una sanzione di 120 milioni di euro.

“L’avvio di un nuovo procedimento della Commissione europea è una decisione necessaria e attesa. Il Digital Services Act deve essere applicato fino in fondo e senza zone franche”, afferma Sandro Gozi, eurodeputato di Renew Europe e segretario generale del Pd europeo. Nell’ambito di questa normativa Ue, intanto, anche WhatsApp sarà sottoposta a controlli più severi e la casa madre Meta entro metà maggio dovrà garantire che rispetti gli obblighi aggiuntivi previsti.

Nonostante la condotta di X, infine, la Commissione Ue difende la scelta di restare sul social. “Siamo attivi su 15 piattaforme social diverse – spiega un portavoce – parliamo agli utenti della piattaforma. Il modo migliore per comunicare le nostre preoccupazioni è farlo lì”.