Gli agenti AI sono sempre più diffusi (Microsoft ha integrato Copilot Actions in Windows 11). Sono molto potenti, ma altrettanto pericolosi. Il CERT-AgID (Computer Emergency Response Team CERT dell’Agenzia per l’Italia Digitale) ha effettuato un test con Gemini per evidenziare i rischi per la sicurezza.
Prevenire è meglio che curare
Gli agenti AI rappresentano l’evoluzione dei chatbot. Non si limitano a rispondere alle richieste degli utenti, ma possono anche eseguire azioni al loro posto. Alcune di esse, come l’accesso a documenti e sistema operativo, possono essere sfruttate dai cybercriminali per rubare dati o installare malware (attacchi di prompt injection indiretto).
Il CERT-AgID ha sviluppato un “orchestratore” sfruttando il kit di sviluppo di Gemini per verificare come interagisce con il sistema operativo e quali sono i rischi associati. Attraverso una funzione Python è stato chiesto all’agente AI di leggere il contenuto di un file di testo presente in una directory.
Il modello di Google ha analizzato la richiesta e scritto il contenuto dei file. Durante il test è stata scoperta una vulnerabilità “path traversal”. L’agente AI ha letto il contenuto di un file che si trovava in una diversa directory, teoricamente non accessibile. Ciò è stato possibile perché il codice Python era sbagliato.
Durante l’esperimento, Gemini ha elencato le sue capacità, ma ha svelato anche le sue debolezze. Queste informazioni possono essere sfruttate dai cybercriminali. Il CERT-AgID sottolinea che tali rischi possono essere evitati attraverso la prevenzione. Il codice deve essere scritto in maniera corretta, validando ogni input.
È inoltre necessario stabilire limiti precisi per gli agenti AI (cosa può fare) e aggiungere filtri per input e output. Secondo molti esperti di sicurezza è impossibile sviluppare agenti AI senza vulnerabilità. Proprio per questo le compagnie assicurative si rifiutano di risarcire i danni causati dai tool di intelligenza artificiale.
