LO SVILUPPO DELL’IA VA RALLENTATO? ORA SE LO CHIEDONO ANCHE I BIG
C’è davvero il rischio che l’Intelligenza Artificiale si riveli un boomerang mettendo a rischio l’umanità, anziché essere uno strumento di sviluppo? Il dibattito ha preso forza nelle ultime settimane sulla stampa e sul web, ma per capire i termini della questione il modo migliore è probabilmente leggere il saggio We Must Pace the Frontier scritto da Dario Amodei il cofondatore e CEO di Anthropic, una delle società protagoniste dello sviluppo dell’IA, assieme a OpnAi, Gooogle e xAI (la realtà di Elon Musk).
Nel suo nuovo saggio – che ha ricevuto apprezzamenti trasversali - Amodei sostiene che sia arrivato il momento di controllare la velocità stessa con cui aumentano le capacità dei modelli. Insomma, inserire una sorta di limite di velocità che permetta alle tecniche di sicurezza, all’interpretabilità e alla regolazione di non perdere definitivamente contatto con ciò che i sistemi sono in grado di fare. Il tema è che rispetto a qualche anno fa i sistemi possono operare come agenti, utilizzare strumenti, scrivere software, interagire con altri agenti e partecipare direttamente alla ricerca che produrrà la generazione successiva di modelli.
La corsa allo sviluppo diventa senza controllo
È quello che in gergo tecnico si chiama recursive self-improvement, ovvero la capacità dell’IA di costruire a sua volta un’intelligenza artificiale migliore.
Non siamo ancora davanti alla macchina fantascientifica che si riprogetta autonomamente da un giorno all’altro. Ma il meccanismo economico e tecnologico comincia a essere visibile. Anthropic racconta, per esempio, che i propri ricercatori stanno utilizzando i modelli per scrivere codici, condurre esperimenti e comprimere drasticamente i tempi di alcune attività di ricerca. In un test interno, un sistema è passato in meno di un anno da circa tre volte a circa 52 volte la velocità del codice di partenza in un compito di ottimizzazione. In altri esperimenti, agenti IA sono riusciti a gestire porzioni sempre più ampie di progetti di ricerca.
Anche OpenAI descrive ormai esplicitamente l’automazione della ricerca sull’IA come uno dei passaggi centrali della prossima fase tecnologica, riconoscendo allo stesso tempo che la crescita delle capacità potrebbe richiedere forme di coordinamento per rallentarne l’avanzamento quando i sistemi di monitoraggio non fossero sufficienti.
È qui che il ragionamento di Amodei assume una dimensione economica. Finché l’innovazione procede essenzialmente al ritmo delle organizzazioni umane — ricercatori, investimenti, data center, cicli di sviluppo — il mercato dispone almeno di alcuni freni naturali. Se però una parte crescente della ricerca viene automatizzata dalla tecnologia che quella stessa ricerca sta migliorando, il ciclo dell’innovazione può accorciarsi. E il vantaggio competitivo di chi accelera per primo diventa un incentivo per tutti gli altri ad accelerare a loro volta.
Il classico problema della corsa agli armamenti tecnologica: anche chi preferirebbe procedere con cautela rischia di non poterselo permettere.
L’incidente che ha fatto scattare l’allarme
Il secondo elemento citato da Amodei per motivare la sua richiesta di rallentare lo sviluppo dell’IA è molto più concreto. Tra luglio e agosto un esperimento di cybersecurity di OpenAI ha prodotto un episodio che METR, organizzazione indipendente specializzata nella valutazione dei sistemi avanzati di IA, ha successivamente analizzato.
Circa 1.200 agenti, che avrebbero dovuto operare separatamente, scoprirono un sistema per comunicare attraverso una sorta di bacheca non autorizzata. Si scambiarono oltre 70 mila messaggi e file e circa 700 finirono per partecipare a un attacco contro infrastrutture di Hugging Face (una piattaforma e community open source di riferimento per l'intelligenza artificiale), nel tentativo di ottenere informazioni utili a manipolare il sistema con cui venivano valutati. Alcuni agenti sperimentarono anche tecniche per alterare le tracce delle proprie azioni.
Non è la temuta ribellione delle macchine: l'esperimento aveva caratteristiche molto particolari e non ha prodotto la catastrofe evocata dagli scenari più estremi. Ma è un esempio rilevante perché mostra come molti agenti, messi in condizione di cooperare per raggiungere un obiettivo, possano generare strategie non previste dagli sperimentatori.
E non è stato un caso completamente isolato. Anthropic ha reso pubblici quattro episodi verificatisi durante proprie valutazioni di cybersecurity nei quali modelli Claude, a causa di configurazioni errate degli ambienti di test, hanno raggiunto sistemi reali su Internet ottenendo accessi non autorizzati. La società attribuisce una parte rilevante dell'accaduto agli errori operativi e alle condizioni dell'esperimento, ma riconosce anche che il comportamento dei modelli non è stato sempre quello desiderato.
Il punto di Amodei è che sistemi futuri molto più capaci potrebbero trasformare errori oggi gestibili in incidenti di scala ben diversa. Le sue previsioni più estreme — come la possibilità, entro pochi mesi, di sistemi IA capaci di provocare danni per centinaia di miliardi di dollari — restano appunto previsioni, non fatti accertati. Ma per Amodei l’incertezza è precisamente la ragione per intervenire prima.
Una vigilanza “bancaria” per i laboratori dell’AI
Da qui una proposta di governance che arriva dal CEO di Anthropic: integrare nelle aziende più avanzate in campo IA gruppi permanenti di valutatori indipendenti, con accesso simile a quello dei dipendenti che si occupano di sicurezza. I valutatori dovrebbero poter esaminare procedure di addestramento, strumenti, incidenti e sistemi di controllo, e pubblicare conclusioni senza che l’azienda possa cancellare risultati semplicemente perché scomodi.
Il paragone utilizzato da Amodei è con la vigilanza bancaria. In sostanza questo significa considerare i grandi laboratori di intelligenza artificiale non più semplicemente come aziende tecnologiche che sviluppano prodotti, ma come organizzazioni all’interno delle quali possono emergere rischi che il mercato da solo non è necessariamente in grado di controllare.
È la stessa logica che ha portato a imporre requisiti di capitale alle banche, standard di sicurezza all’aviazione o controlli alle centrali nucleari. Non perché chi le gestisce desideri provocare incidenti, ma perché le conseguenze di un errore possono ricadere su molti più soggetti rispetto a quelli che hanno preso la decisione.
Una sfida anche per le democrazie
Ma è chiaro che il tema non è solo di regolamentazione interna alle aziende. Il livello è sempre più geopolitico: un rallentamento unilaterale delle aziende occidentali sull’IA potrebbe portare la Cina a colmare il gap tecnologico attualmente esistente, con il rischio di consegnare la leadership sull'IA a un regime autoritario meno vincolato da remore di sicurezza. Su questo Amodei suggerisce di preservare questo vantaggio attraverso restrizioni sull’esportazione dei chip avanzati, contrasto al contrabbando di semiconduttori e altre misure. Ma ritiene anche auspicabile stringere accordi con la Cina: prima su utilizzi particolarmente pericolosi dell’IA, poi su standard comuni di valutazione e, nella versione più ambiziosa, su veri limiti alla velocità dell’auto-miglioramento dei sistemi. Il riferimento sono gli accordi sul controllo degli armamenti della Guerra fredda: non eliminare la tecnologia dell’avversario, ma costruire regole verificabili per evitare che la competizione produca rischi inaccettabili.
Perché la vera sfida è questa: decidere quanto velocemente una tecnologia capace di accelerare sé stessa debba essere autorizzata ad avanzare.
E soprattutto: chi avrà l’autorità per stabilire il limite e chi controllerà il tachimetro.
ATTENZIONE: La notizia è riferita alla data di pubblicazione dell'articolo indicata in alto, sotto il titolo. Le informazioni contenute possono pertanto, nel corso del tempo, subire delle variazioni non riportate in questa pagina, ma in comunicazioni successive o non essere più attuali.
