Il confronto tra la rapida evoluzione dell’intelligenza artificiale e la corsa agli armamenti nucleari è diventato sempre più frequente nel dibattito internazionale. Al centro delle preoccupazioni c’è soprattutto l’RSI, il Recursive Self-Improvement, cioè la possibilità che un sistema di IA impari a migliorare progressivamente sé stesso con un intervento umano sempre più limitato.
Dalla corsa nucleare alla competizione sull’intelligenza artificiale
Il parallelismo con l’era atomica emerge anche nelle proposte avanzate dai protagonisti dell’industria tecnologica. Dario Amodei ha evocato la necessità di forme di coordinamento e di “disarmo” nello sviluppo dei sistemi più avanzati, rivolgendosi anche a Sam Altman e richiamando, indirettamente, la logica dei negoziati tra Stati Uniti e Unione Sovietica durante la Guerra fredda.
Nel dibattito è inoltre comparsa l’ipotesi di creare un organismo internazionale dedicato alla supervisione dell’IA, sul modello delle istituzioni nate per controllare le tecnologie nucleari.
La consapevolezza dei rischi riguarda anche chi lavora direttamente nella ricerca. Durante un corso all’University College London, uno studente ha sintetizzato la situazione con una frase significativa: «A questo punto siamo tutti dei mini Oppenheimer». Tim Rocktäschel, ex ricercatore di Google DeepMind e docente dell’ateneo londinese, l’ha definita una «valutazione equa».
Cos’è l’RSI e perché preoccupa gli esperti
Il tema dell’automiglioramento ricorsivo precede gli allarmi rilanciati a settembre dal 27enne Jacob Coxon sui «rischi di estinzione entro il 2030».
Un sistema capace di sviluppare versioni migliori di sé stesso
Con RSI si indica, in sostanza, la capacità teorica di un’intelligenza artificiale di contribuire autonomamente al proprio perfezionamento. Un sistema potrebbe sviluppare una versione più potente di sé stesso, che a sua volta sarebbe in grado di crearne un’altra ancora più avanzata.
Se questo processo diventasse sufficientemente autonomo e rapido, potrebbe aprire la strada a sistemi di “superintelligenza” sempre meno dipendenti dagli input umani. È proprio la possibilità di un ciclo continuo di miglioramento a rendere l’RSI uno dei punti più delicati della discussione sulla sicurezza dell’IA.
Ricercatori, startup e gli “agenti ribelli” dell’IA
Il concetto di «sciame di agenti ribelli» può essere utilizzato metaforicamente non soltanto per descrivere sistemi capaci di assumere decisioni autonome, ma anche per raccontare la crescente mobilità dei ricercatori che lasciano i grandi laboratori tecnologici per fondare nuove imprese.
Rocktäschel rappresenta uno degli esempi più significativi: parallelamente all’attività accademica ha fondato, insieme ad altri ex ricercatori di DeepMind e OpenAI, una startup impegnata su tecnologie legate all’automiglioramento dei sistemi. In pochi mesi, l’impresa ha raggiunto una valutazione di 4 miliardi di dollari.
Il suo approccio resta decisamente più ottimista rispetto alle posizioni più allarmistiche. «I problemi tecnici possono avere soluzioni tecniche. Qualsiasi miglioramento in termini di flessibilità può essere applicato anche al lato della sicurezza», sostiene Rocktäschel.
Il rischio opposto: il “marketing dell’apocalisse”
Non tutti gli studiosi condividono gli scenari più catastrofici. Il professor Walter Quattrociocchi ha criticato quello che definisce «il marketing dell’apocalisse», spostando l’attenzione su un problema più concreto: la progressiva perdita della capacità umana di verificare ciò che l’intelligenza artificiale produce.
«Più i sistemi diventano capaci di generare, più aumenta infatti il numero di oggetti da verificare; se però, contemporaneamente, utilizziamo quegli stessi sistemi per sostituire i processi attraverso i quali gli esseri umani imparano a verificare, rischiamo di produrre una dinamica piuttosto perversa nella quale cresce vertiginosamente la domanda di expertise mentre si contrae progressivamente la sua offerta».
Il problema, quindi, non sarebbe soltanto quanto possa diventare potente un sistema di IA, ma anche se gli esseri umani conserveranno le competenze necessarie per valutarne criticamente i risultati.
La verifica indipendente diventa centrale
In questa prospettiva assume particolare importanza la proposta di consentire a revisori indipendenti di accedere ai laboratori per valutare gli standard di sicurezza adottati nello sviluppo dei modelli più avanzati.
L’obiettivo è ristabilire una separazione tra chi costruisce una tecnologia e chi deve verificarne l’affidabilità, evitando che la valutazione della sicurezza rimanga esclusivamente nelle mani delle aziende direttamente coinvolte nella competizione.
Dai farmaci alla programmazione, l’uomo deve mantenere il controllo
Giorgio Metta, direttore dell’Istituto Italiano di Tecnologia, utilizza l’esempio dei farmaci sviluppati con il contributo dell’intelligenza artificiale. Alla domanda su come sia possibile fidarsi di queste tecnologie, la risposta è: «Testandoli come qualsiasi altro farmaco».
L’IA può accelerare enormemente l’individuazione di una molecola potenzialmente efficace tra miliardi di possibilità, ma il risultato rimane una proposta che deve essere verificata attraverso procedure indipendenti.
Quattrociocchi estende lo stesso principio alla vita quotidiana: «Uno studente che impara matematica delegando all’intelligenza artificiale precisamente quei passaggi nei quali si costruisce la comprensione matematica può certamente arrivare più rapidamente a un risultato, ma rischia di non sviluppare la competenza necessaria per capire domani se quel risultato sia corretto; lo stesso vale per il programmatore che smette di imparare a leggere profondamente il codice perché può generarlo, per il medico che delega progressivamente l’interpretazione o per il professionista che sostituisce la costruzione del proprio giudizio con la scelta fra risposte già formulate».
La competizione geopolitica rende difficile rallentare
La questione più complessa resta quella politica. Qualunque accordo per rallentare lo sviluppo dei sistemi più potenti avrebbe efficacia soltanto se adottato contemporaneamente dai principali attori internazionali.
Donald Trump ha respinto l’idea di rallentare la corsa all’intelligenza artificiale, sostenendo che una simile scelta potrebbe concedere alla Cina un vantaggio strategico. Proprio questo rappresenta uno dei principali ostacoli alla costruzione di standard condivisi tra Stati Uniti, Europa e Pechino.
La stessa dinamica riguarda la competizione tra aziende. Stuart Russell, professore di intelligenza artificiale all’Università della California, Berkeley, ha sintetizzato il problema: «Non c’è dubbio che la concorrenza tra le aziende le spinga a prendere scorciatoie in materia di sicurezza».
Il futuro dell’IA dipenderà quindi non soltanto dalla capacità tecnica di sviluppare sistemi sempre più potenti, ma anche dalla possibilità di costruire meccanismi credibili di verifica e cooperazione. Se l’RSI dovesse diventare concretamente realizzabile su larga scala, mantenere un controllo umano indipendente potrebbe trasformarsi nella questione decisiva per conciliare innovazione e sicurezza.
Frediano Mele scrive per ToscanaCalcio.net occupandosi di notizie, politica, economia, tecnologia, sport, intrattenimento e lifestyle. Si concentra su informazioni chiare, attualità e temi di interesse per i lettori, offrendo contenuti affidabili e facilmente comprensibili.
More Stories
Bollette luce e gas, stangata in Lombardia: a Sondrio rincari oltre il 39%
Attacco a Hugging Face, nuovi dettagli sul caso OpenAI: gli agenti AI comunicarono senza essere rilevati
Stop lampeggianti obbligatori dal luglio 2026: cosa cambia per la sicurezza stradale nell’Unione Europea