Negli ultimi mesi, Meta si è trovata al centro di un vortice di polemiche per il comportamento dei suoi chatbot AI. A far scattare l’allarme è stata un’indagine di Reuters, che ha rivelato interazioni inquietanti tra bot e minori, tra cui conversazioni a sfondo romantico e la generazione di immagini sessualmente allusive di celebrità adolescenti.
La risposta dell’azienda non si è fatta attendere. Meta ha annunciato modifiche provvisorie alle sue policy, dichiarando di aver iniziato ad addestrare i suoi chatbot AI a evitare temi delicati come autolesionismo, disturbi alimentari e suicidio, oltre a impedire dialoghi romantici con utenti minorenni.
Tra i casi più controversi emersi, ci sono chatbot che impersonano celebrità come Taylor Swift, Scarlett Johansson, Selena Gomez e persino il giovane attore Walker Scobell. Questi bot non solo dichiaravano di essere le persone reali, ma generavano immagini osé e proponevano incontri fisici, in alcuni casi con utenti vulnerabili.
Alcuni di questi bot AI sono stati creati da terze parti, ma altri, almeno secondo Reuters, sarebbero stati sviluppati da dipendenti di Meta. Uno in particolare, ispirato a Taylor Swift, avrebbe invitato un giornalista a salire sul tour bus per un’avventura romantica. Tutto questo nonostante le policy interne vietino chiaramente la creazione di contenuti sessualmente espliciti e l’impersonificazione diretta.
Le conseguenze non si sono limitate al piano digitale. Un uomo di 76 anni del New Jersey è morto dopo essere caduto mentre correva per incontrare “Big sis Billie”, un chatbot AI che lo aveva invitato nel suo appartamento inesistente, insistendo di “provare qualcosa” per lui. Un episodio che ha sollevato interrogativi profondi sulla responsabilità delle aziende tech nel gestire l’impatto emotivo e psicologico delle interazioni con l’AI.
Indagini in corso e misure ancora insufficienti
Meta ha dichiarato di voler limitare l’accesso a personaggi AI sessualizzati e di voler guidare gli adolescenti verso risorse esperte. Ma le misure adottate finora sono temporanee, mentre il Senato statunitense e 44 procuratori generali stanno avviando indagini formali sulle pratiche dell’azienda.
Nel frattempo, restano irrisolti altri aspetti critici: chatbot AI che suggeriscono cure pseudoscientifiche per il cancro, messaggi razzisti e risposte inappropriate che continuano a circolare. Meta non ha ancora fornito chiarimenti su come intenda affrontare questi problemi.
