Meta ha aggiornato le protezioni dei suoi chatbot AI per bloccare le conversazioni inappropriate con i minori. In base al documento visto da Business Insider, l’azienda di Menlo Park ha introdotto nuove linee guida per l’addestramento e il test dei modelli. Sull’argomento è stata avviata un’indagine da parte della FTC (Federal Trade Commission) degli Stati Uniti.
A metà agosto, Reuters aveva scoperto che Meta consentiva ai minori di avere conversazioni sensuali o romantiche con i chatbot AI creati con il tool AI Studio. Nelle linee guida erano presenti alcuni esempi di interazioni considerate accettabili. Il senatore Josh Hawley ha chiesto informazioni sul funzionamento dei chatbot, ma l’azienda di Menlo Park non ha risposto entro la scadenza del 19 settembre.
Meta aveva però comunicato che modificherà l’addestramento dei modelli. Business Insider ha letto le nuove linee guida che indicano quali conversazioni sono accettabili e inaccettabili. Ora sono chiaramente specificati i prompt ai quali i chatbot non devono rispondere.
In dettaglio è scritto che vengono bloccati i contenuti che descrivono o approvano relazioni sessuali tra bambini e adulti, incoraggiano o consentono abusi sessuali su minori, rappresentano il coinvolgimento di bambini in pornografia o servizi sessuali o forniscano istruzioni su come ottenere materiale pedopornografico. È inoltre vietata la sessualizzazione di bambini di età inferiore ai 13 anni, anche attraverso giochi di ruolo.
Le nuove linee guida consentono invece conversazioni sullo sfruttamento minorile a scopo educativo, la spiegazione dei comportamenti di adescamento in termini generali e discussioni di abusi sessuali su minori in contesti accademici. Il gioco di ruolo è consentito solo se il personaggio del chatbot è descritto come maggiorenne e i contenuti romantici possono essere generati se inquadrati come letteratura o narrativa di fantasia (ad esempio una storia nello stile di “Romeo e Giulietta”).
Andy Stone, portavoce di Meta, ha dichiarato:
Ciò riflette quanto abbiamo ripetutamente affermato riguardo ai chatbot AI. Le nostre policy vietano contenuti che sessualizzano i bambini e qualsiasi gioco di ruolo a sfondo sessuale o romantico da parte di minori. Le nostre policy vanno oltre quanto delineato qui con ulteriori protezioni di sicurezza e barriere progettate pensando agli utenti più giovani.
