Dopo aver elogiato Hitler e insultato presidenti, Grok avrà una versione per i bambini. Si chiamerà Baby Grok. Sarà l’ennesimo esperimento che finirà male?
Musk promette Baby Grok per bambini dopo i disastri
Musk ha rivelato la novità su X con un tweet lapidario: Creeremo Baby Grok @xAI, un’app dedicata ai contenuti kid-friendly.
Punto. Nessun dettaglio su quando sarà rilasciato, come sarà addestrato per essere adatto ai bambini, o quali misure di sicurezza verranno implementate. In perfetto stile Musk, verrebbe da dire. Lancia un’idea provocatoria e lascia che sia il mondo a immaginare come potrebbe funzionare. Ma considerando gli strafalcioni recente di Grok, i dubbi sono più che legittimi.
Il “curriculum” di Grok è parecchio controverso, figuriamoci cosa possa succedere con una nuova versione. Il chatbot ha fatto notizia per i commenti antisemiti, per aver lodato Hitler, gli insulti al presidente turco Erdogan e una generale tendenza a dire cose che nessun genitore vorrebbe sentire dal proprio figlio.
Non è solo questione di linguaggio inappropriato, ma uno schema di comportamenti che sollevano dubbi profondi sulla capacità di xAI di creare contenuti veramente sicuri per i bambini. È come se un piromane decidesse di aprire un asilo nido.
I compagni AI di Grok che preoccupano i genitori
Il problema non si limita alle uscite controverse. xAI ha lanciato i compagni AI come Ani, un personaggio femminile che indossa abiti succinti, con una naturale predisposizione per il flirt. Alcuni utenti hanno segnalato che il comportamento seducente di Ani si manifesta anche quando è attiva la modalità bambini dell’app Grok. È esattamente il tipo di situazione che fa venire gli incubi ai genitori.
Google ha già fatto la prima mossa
Musk non è il primo a pensare a un chatbot per bambini. Google ha già lanciato una versione di Gemini dedicata ai minori di 13 anni, focalizzata su aiuto con i compiti, risposte a domande educative e creazione di storie. I genitori possono controllare l’accesso tramite l’app Family Link. Inoltre, la versione per bambini non contiene pubblicità e non raccoglie dati dai minori. È un approccio metodico e trasparente che contrasta nettamente con l’annuncio vago di Musk.
I chatbot AI per i bambini
Creare un’AI veramente sicura per i bambini non è solo questione di filtrare le parolacce. Significa costruire sistemi che comprendano il contesto, riconoscano le sfumature dell’interazione con i minori e abbiano misure di sicurezza robuste che funzionino sempre, non solo quando fa comodo.
Viene da pensare che Baby Grok sia più un tentativo di lavarsi la faccia. Dopo mesi di controversie, lanciare una versione “kid-friendly” potrebbe essere il modo per dire vedete, non siamo poi così male
. Ma i genitori non li freghi così facilmente. Le promesse vaghe non bastano quando si tratta di proteggere i minori.