Poche ore prima dell’annuncio di Character.AI relativo al ban per i minorenni, cinque senatori statunitensi hanno presentato un disegno di legge (PDF) che prevede il divieto di accesso ai chatbot AI da parte dei minori di 18 anni. Tutte le aziende che offrono questo tipo di servizio dovranno implementare un sistema di verifica dell’età.
ChatGPT, Gemini e Siri vietati ai minorenni?
Durante la conferenza stampa di presentazione del disegno di legge, denominato Guidelines for User Age-verification and Responsible Dialogue Act (GUARD Act), i cinque senatori (due repubblicani e tre democratici) hanno evidenziato che oltre il 70% dei minorenni statunitensi interagisce con i chatbot AI. Come dimostrano i fatti di cronaca, molti utenti instaurano un legame troppo confidenziale che può avere conseguenze drammatiche (autolesionismo o suicidio).
L’accusa principale per le aziende che sviluppano i chatbot AI è quella di anteporre i profitti alla sicurezza. Il disegno di legge si applica sia ai chatbot specializzati, come quelli di Character.AI o Replika, che ai più generici, come quelli di OpenAI, Google, Microsoft, xAI, Meta e Apple.
In base al GUARD Act, all’inizio della conversazione e ogni 30 minuti deve essere specificato che il chatbot non è umano o una persona reale con competenze di avvocato, medico e altre professioni. I chatbot non devono inoltre avere conversazioni su argomenti non adatti ai minori.
Se al momento dell’iscrizione o durante l’interazione con il chatbot viene rilevata un’età inferiore a 18 anni, l’account deve essere bloccato. Le aziende forniranno quindi un sistema che permetterà agli utenti di confermare la maggiore età attraverso un documento di identità o altri metodi. In caso di violazioni sono previste sanzioni fino a 100.000 dollari.
Come evidenzia 9to5Mac, essendo la definizione di chatbot troppo generica, la legge potrebbe avere conseguenze sui chatbot “general purpose”, tra cui Siri. Apple dovrebbe quindi verificare l’età prima dell’uso dell’assistente digitale (lo stesso vale per Google e Meta).
