Alex Karp apre alla nazionalizzazione dei giganti dell’AI: il CEO di Palantir riaccende il dibattito sul controllo dell’intelligenza artificiale
Il dibattito sulla sicurezza dell’intelligenza artificiale sta rapidamente cambiando dimensione. Non si parla più soltanto di regolamentare i modelli più potenti o di imporre nuovi standard di sicurezza: sul tavolo è comparsa persino un’ipotesi che fino a poco tempo fa sarebbe sembrata estrema, la possibile nazionalizzazione dei principali laboratori che sviluppano l’AI di frontiera.
A sollevare la questione è stato Alex Karp, cofondatore e CEO di Palantir, durante un’intervista concessa il 17 settembre alla CNBC.
Le sue parole hanno immediatamente fatto discutere, ma meritano di essere lette nel loro contesto. Karp non ha proposto che ogni sistema di intelligenza artificiale diventi proprietà dello Stato, né che i governi assumano direttamente il controllo di ChatGPT, Claude o degli altri servizi utilizzati quotidianamente da milioni di persone.
Il suo ragionamento riguarda soprattutto le aziende che costruiscono i modelli AI più potenti del mondo e la responsabilità legale derivante dalle loro azioni.
Karp: prima delle regole deve esserci la responsabilità
La posizione espressa dal CEO di Palantir parte da un principio relativamente semplice: chi sviluppa una tecnologia dovrebbe essere responsabile delle conseguenze che provoca.
Karp ha sostenuto che l’intelligenza artificiale necessita di “reasonable guidelines”, regole ragionevoli e concretamente applicabili, ma ha aggiunto che la prima barriera contro comportamenti irresponsabili dovrebbe essere la responsabilità degli stessi produttori.
Secondo il CEO di Palantir, quindi, i laboratori di AI dovrebbero poter essere chiamati a rispondere civilmente — e in determinate circostanze anche penalmente — delle proprie decisioni.
È proprio da qui che nasce la parte più controversa del suo ragionamento.
“The view that I believe they have is, these businesses have to be nationalized because if you don’t nationalize them, every single one of my clients is going to sue.”
In altre parole, secondo Karp, la quantità di responsabilità potenzialmente accumulata dai grandi laboratori potrebbe diventare talmente elevata da spingerli verso una qualche forma di protezione pubblica.
Il vero problema secondo Karp: dati e proprietà intellettuale
Una parte importante della posizione del fondatore di Palantir riguarda un problema molto più concreto dei futuristici scenari sull’AGI: i dati utilizzati dai sistemi di intelligenza artificiale.
Karp sostiene che alcuni clienti di Palantir siano preoccupati perché informazioni e conoscenze proprietarie fornite ai sistemi AI potrebbero essere incorporate o comunque utilizzate in modi che finiscono per avvantaggiare soggetti esterni.
Secondo quanto riportato da Business Insider, Karp ha raccontato di clienti che temono di vedere il proprio know-how finire indirettamente nelle mani dei concorrenti.
Si tratta di uno dei temi che Palantir porta avanti da tempo: le imprese dovrebbero conservare il controllo su dati, modelli, infrastruttura computazionale e conoscenza proprietaria anziché trasferire parti strategiche della propria attività a piattaforme esterne.
Karp ha sintetizzato precedentemente questo concetto parlando di “sovereign AI”: chi genera valore dovrebbe mantenere il controllo del valore prodotto, dei propri modelli e dei propri dati.
Perché si parla addirittura di nazionalizzazione?
Il ragionamento diventa ancora più interessante quando viene applicato ai rischi delle future generazioni di modelli.
Se un’azienda sviluppa una tecnologia capace di causare danni enormi, nasce una domanda apparentemente banale ma molto difficile da risolvere:
chi paga se qualcosa va storto?
Se le potenziali responsabilità superassero perfino le capacità economiche delle società che costruiscono questi sistemi, secondo Karp il governo potrebbe diventare l’unico soggetto in grado di fornire una protezione sufficiente.
Da qui l’ipotesi della nazionalizzazione.
Non significa necessariamente trasformare ogni azienda tecnologica in un ente statale. Significherebbe piuttosto considerare alcuni laboratori AI alla stregua di infrastrutture strategiche, per le quali il rapporto tra interesse privato, sicurezza nazionale e responsabilità pubblica diventerebbe molto più stretto.
Ed è proprio questo passaggio a rendere le dichiarazioni di Karp particolarmente rilevanti.
Lo scontro con Anthropic
Le dichiarazioni del CEO di Palantir arrivano nel pieno di un dibattito molto più ampio che sta attraversando la Silicon Valley.
Il 12 settembre, Dario Amodei, CEO di Anthropic, ha pubblicato l’intervento We Must Pace the Frontier, chiedendo all’industria di rallentare il ritmo con cui aumentano le capacità dei modelli più avanzati.
Amodei non propone di interrompere lo sviluppo dell’intelligenza artificiale, ma sostiene che la sicurezza debba avere il tempo di recuperare terreno rispetto alla velocità con cui stanno aumentando le capacità dei sistemi.
Tra le sue proposte ci sono valutatori indipendenti con accesso approfondito ai sistemi e maggiore coordinamento tra aziende e governi.
La posizione ha ricevuto consensi da diversi protagonisti dell’industria, ma Karp interpreta almeno parte di questa richiesta di intervento in maniera differente.
Secondo il CEO di Palantir, dietro il dibattito sulla sicurezza esisterebbe anche un gigantesco problema di responsabilità legale.
La sua tesi è che i grandi laboratori possano avere interesse a ottenere una maggiore copertura istituzionale proprio perché, con l’aumentare delle capacità dei modelli, potrebbe crescere parallelamente il numero delle cause e delle richieste di risarcimento.
È importante sottolineare che questa è l’interpretazione di Karp, non un fatto dimostrato sulle intenzioni di Anthropic o degli altri laboratori.
Non significa “lo Stato controllerà ChatGPT”
Ed è probabilmente questo il punto sul quale occorre fare maggiore chiarezza.
Parlare genericamente di “AI sotto controllo pubblico” rischia di confondere questioni molto differenti.
Nel dibattito attuale esistono almeno tre livelli: la regolamentazione dei modelli, la responsabilità giuridica delle aziende che li producono e, nell’ipotesi estrema sollevata da Karp, il controllo pubblico o la nazionalizzazione di società considerate strategiche.
Sono scenari profondamente diversi.
Karp non ha chiesto che tutti i modelli AI diventino pubblici o che lo Stato americano gestisca direttamente ogni intelligenza artificiale.
Ha però contribuito a introdurre nel dibattito mainstream una domanda che fino a poco tempo fa sarebbe sembrata quasi impensabile:
possono tecnologie con conseguenze potenzialmente sistemiche continuare a essere gestite esclusivamente da società private?
L’intelligenza artificiale sta diventando un’infrastruttura strategica
Al di là della posizione personale di Karp, la discussione rivela qualcosa di più profondo.
I modelli di intelligenza artificiale non vengono ormai utilizzati soltanto per generare testi o immagini. Sono sempre più integrati nei processi industriali, nella cybersecurity, nella ricerca scientifica, nelle infrastrutture e nei sistemi governativi.
Anthropic ha inoltre recentemente mostrato quanto l’AI venga già utilizzata nello stesso processo di ricerca necessario per costruire generazioni successive di modelli.
Più questa dipendenza aumenterà, più diventeranno centrali domande che finora sono rimaste in secondo piano: chi controlla i modelli, chi controlla i dati e soprattutto chi risponde quando un sistema provoca un danno?
È su quest’ultimo punto che Alex Karp sembra voler spostare il dibattito.
La sua posizione non è semplicemente “nazionalizziamo l’intelligenza artificiale”. È qualcosa di più complesso: prima di discutere di nuovi organismi di controllo, chi costruisce sistemi estremamente potenti deve essere disposto a rispondere delle conseguenze che produce.
E se quella responsabilità diventasse troppo grande per essere sostenuta da un’impresa privata, allora persino la nazionalizzazione dei principali laboratori AI potrebbe smettere di essere soltanto un’ipotesi teorica.