Meta non si sta impegnando a sufficienza per arginare il fenomeno strabordante dei contenuti deepfake generati da AI che utilizzano i volti e le voci di celebrità note a scopo di scam e frode. A puntare il dito è l’Oversight Board, ovvero l’organismo interno che raccoglie svariati esperti da tutto il mondo per vigilare e prendere decisioni sui contenuti consentiti su Facebook e Instagram. I post – spesso anche sponsorizzati – mostrano filmati di cantanti, sportivi, attori, politici (persino lo stesso Mark Zuckerberg) e rimangono online per troppo tempo, nonostante le tante segnalazioni da parte degli utenti: è sempre più impellente il momento di un cambio di marcia sulla moderazione.
Ci sono Ronaldo il Fenomeno che promuove un casinò online e Cristiano Ronaldo che presenta un’app per fare soldi facili oppure Tom Hanks che propone cure dentali o ancora lo stesso Mark Zuckerberg che regala consigli per investire in criptovalute e Elon Musk che snocciola metodi anti-diabete. I deepfake realizzati con AI che generano video realistici di celebrità varie manipolando volto e voce sono una presenza ormai fissa e costante su Facebook e Instagram. Gli utenti segnalano in massa questi contenuti, perché c’è una larga fetta di iscritti che non è così esperta e cade in queste trappole ben orchestrate, venendo depredata di dati sensibili o paga per servizi inesistenti. Meta non è ancora abbastanza reattiva a difendere i propri utenti secondo l’organismo interno dell’Oversight Board, che nell’ultimo post pubblicato sul sito ufficiale aggiunge: “I moderatori su larga scala non hanno il potere di far rispettare questo divieto a contenuti che creano una falsa identità o fingono di essere una persona famosa al fine di truffare o frodare”.
X content
This content can also be viewed on the site it originates from.
Un portavoce di Meta ha cercato di ridimensionare le accuse del board, definendole inaccurate e sottolineando come le protezioni stiano evolvendo di pari passo alle minacce, per aumentare la propria efficacia: “Stiamo testando l’uso della tecnologia di riconoscimento facciale, contrastando con forza le truffe e consentendo alle persone di proteggersi attraverso diversi strumenti e avvisi di sicurezza sulla piattaforma”. Di certo servirà un’azione di moderazione ancora più rapida e profonda, soprattutto considerando le potenzialità stupefacenti dei più recenti metodi di generazione video, ormai sempre più sofisticati e credibili come dimostrato per esempio dallo strumento Veo 3 di Google.
