ChatGPT usato per creare tool di sorveglianza di massa: l’allarme di OpenAI

Secondo l’ultimo report sulle minacce contro i tool di IA sventate da OpenAI, alcuni utenti legati al governo cinese avrebbero usato ChatGPT per sviluppare tool di sorveglianza di massa.

“Recentemente abbiamo bannato un utente, che probabilmente utilizzava una VPN per accedere ai nostri servizi dalla Cina, il quale chiedeva a ChatGPT di aiutarlo a progettare materiale promozionale e piani di progettoper uno strumento di sorveglianza di social media, presumibilmente destinato a un cliente governativo” ha affermato la compagnia nel report. “Lostrumento è stato descritto come una “sonda” per i social media in grado di scansionare Twitter/X, Facebook, Instagram, Reddit, TikTok e YouTube alla ricerca di ciò che l’utente ha descritto come discorsi estremisti e contenuti etnici, religiosi e politici. L’utente non ha utilizzato il nostromodello per condurre l’effettivo monitoraggio dei social media“.

Nel report OpenAI evidenzia altri casi di abuso di ChatGPT per scopi di sorveglianza e di aver bloccato ogni account relativo a queste attività. In un caso, un utente avrebbe chiesto al chatbot di sviluppare un tool per analizzare prenotazioni relative ai trasporti e compararle con gli archivi delle forze dell’ordine per ottenere degli avvisi sui movimenti degli Uiguri, una minoranza etnica di religione islamica che vive in Cina.

Alla CNN Ben Nimmo, ricercatore di OpenAI, ha spiegato che “nella Repubblica Popolare Cinese c’è una spinta a migliorare l’uso dell’intelligenza artificiale per attività su larga scala come la sorveglianza e il monitoraggio. Non è di recente che il Partito Comunista Cinese ha iniziato a sorvegliare la propria popolazione. Ma ora hanno sentito parlare dell’IA e stanno pensando: “Oh, forse possiamo usarla per migliorare un po’ le cose”“.

OpenAI sottolinea di aver bloccato qualsiasi attività malevola che mirasse a controllare popolazioni o interi stati, o che fosse legata a operazioni cyber malevole o di spionaggio. Come fa notare la testata, però, le agenzie governative statunitensi sarebbero esonerate da questi provvedimenti, in quanto agirebbero a supporto della democrazia.

Viene inoltre da chiedersi quale sistema utilizzi OpenAI per monitorare gli input e in che modo riesca a distinguere contenuti potenzialmente malevoli senza violare la privacy degli utenti di ChatGPT.