Hiroshima (Giappone) – Anthropic sta collaborando con il governo statunitense per sviluppare salvaguardie per le armi nucleari, ovvero strumenti per evitare che i suoi modelli di AI offrano conoscenze sensibili sulla proliferazione nucleare. Sul suo modello LLM Claude ha creato un classificatore che distingue conversazioni nucleari rischiose da quelle benigne con il 96% di accuratezza. OpenAI ha partnership simili con l’amministrazione nazionale per la sicurezza nucleare (Nnsa) e un focus su tecnologie dual-use (uso sia civile che militare). Nonostante in entrambi i casi l’obiettivo annunciato sia quello di rendere l’intelligenza artificiale uno strumento di miglioramento alla sicurezza nazionale, il primo a manifestare preoccupazione è lo stesso Istituto per la sicurezza e tecnologia (Ist).
“Dato che l’AI sta avanzando così rapidamente, è difficile prevedere cosa saranno in grado di fare i modelli di domani, e quali rischi potrebbero comportare. La loro integrazione nel campo delle armi nucleari potrebbe accelerarne gli sviluppi, perché mancano regolamentazioni che definiscano cosa significa farlo in modo etico o meno” spiega infatti Alice Saltini, ricercatrice e consulente per le politiche nucleari basate sull’intelligenza artificiale presso l’Ist. Wired Italia l’ha incontrata per scoprire quali sono i veri rischi e come sarebbe possibile mitigarli.
AI e nucleare, amici e nemici
Il tema è vasto e gli orizzonti immaginabili e temibili anche. “Nei sistemi di decisione nucleare l’ai può essere integrata in qualsiasi modo, nei sensori di allarme precoce, o nei sistemi di supporto decisionale, e di funzioni a supporto del comando o controllo nucleare, per esempio. Molto dipende dai singoli stati e dalle loro politiche specifiche” spiega subito l’esperta, raccontando la sua sfida quotidiana: “raccogliere indizi sui fornitori della difesa sui sistemi in fase di modernizzazione e dati disponibili open-source per dedurre dove l’AI potrebbe essere integrata”.
Dove, ma anche “come”, aggiunge Herbert Lin, ricercatore in politica e sicurezza informatica presso il Center for International Security and Cooperation della Stanford University, invitando a non generalizzare. “Ci sono applicazioni che migliorano il controllo umano e aiutano a minimizzare l’uso di armi nucleari, ma altre sono catastrofiche e vanno a tutti i costi evitate – racconta Lin – scoprirle tutte e capire di volta in volta a che categoria appartengono è il nostro lavoro di ricerca, ed è molto lungo”. Forse troppo per alcuni governi e istituzioni preoccupati di perdere il vantaggio strategico che questa tecnologia può portare alla loro politica nucleare e, più in generale, geopolitica. Lin non conta molto su di loro per eventuali passi avanti su trattati e accordi, preferisce puntare sul lavoro di ricerca suo e di colleghi come Saltini. Entrambi ritengono che “l’integrazione dell’ai all’avanguardia nel dominio nucleare è già in corso (sebbene probabilmente ancora in fase sperimentale), ma la traiettoria è solo relativamente chiara”.
Nucleare dinamico: quale direzione?
Per dare un nome e una forma a uno dei tanti sviluppi possibili, Saltini racconta in che modo questa tecnologia può cambiare i sistemi che supportano l’infrastruttura critica che consente di mantenere il controllo e il comando sulle forze nucleari di uno stato, la Nc3 (Nuclear Command, Control, and Communications). L’obiettivo di questo complesso “sistema di sistemi” composto da centinaia di componenti individuali (terrestri, spaziali e aviotrasportati) è triplice: capire quando sparare, se l’ordine di farlo è autentico e quando fermarsi. Come? Attraverso sensori di avvertimento, centri di comando per il processo decisionale, sistemi di comunicazione, autenticazione e controllo sicuri e ora anche con l’intelligenza artificiale. Integrata in questo strumento, racconta Saltini, tale tecnologia può “accelerare la fusione multisensore di dati da radar, satelliti e sensori aviotrasportati, riducendo falsi positivi e sintetizzando enormi flussi di dati generando scenari predittivi”. Oppure “prioritizzare analisi e aggiornare dinamicamente i bersagli, analizzandoli in tempo reale”.
