Come controllare una super-IA “utilizzando altre IA”, come dice ChatGPT!

È stato uno degli eventi più importanti del 2023 Boom dello strumento ChatGPT, Che ha battuto i record degli utenti ed è stato lo strumento in più rapida crescita. Di conseguenza, altre aziende come Google si sono lanciate nella corsa per sviluppare i propri modelli linguistici e chatbot simili a ChatGPT.

La capacità di ChatGPT di rispondere a domande e risolvere problemi è impressionante. Alcuni suggeriscono addirittura che siamo sull’orlo di un’intelligenza artificiale generale in grado di fare tutto ciò che può fare un essere umano, e di farlo meglio. Questo è il timore recentemente sollevato dalla startup ChatGPT OpenAI.

A tal fine, OpenAI afferma di aver concentrato le proprie risorse sulla risposta alla domanda: come possiamo controllare l’intelligenza artificiale sovrumana in modo da poter fare ciò che vogliamo? Ora OpenAI è giunto ad una conclusione: Possiamo controllare l'IA solo attraverso altre IA.

intelligenza artificiale

Esistono risposte diverse alla domanda su cosa sia l'intelligenza artificiale a seconda della letteratura. La più famosa è la definizione data da Alan Turing nel suo articolo del 1950 quando si chiedeva se le macchine possano pensare. Turing usò allora questo termine Macchine pensanti.

Per Turing l’intelligenza artificiale è tutto ciò che una macchina può fare e un essere umano può fare.

Dall'articolo di Turing, il campo è cresciuto negli ultimi decenni, soprattutto a partire dagli anni 2000 Con lo sviluppo di macchine sempre più potenti. Oggi l’intelligenza artificiale è diventata parte della nostra vita. da Utilizzo di un telefono cellulare con un assistente virtuale Per partecipare ai social network, Utilizzo di sistemi di raccomandazione.

Modelli linguistici

Tuttavia, ciò che maggiormente ha attirato l’attenzione sulle potenzialità dell’intelligenza artificiale sono i modelli linguistici. I cosiddetti LLM (Large Language Models) sono modelli che imparano osservando migliaia o milioni di testi e immagini e sono in grado di rispondere a domande, riassumere testi, creare grafici, ecc.

Il modello più famoso è ChatGPT di OpenAI. ChatGPT ha recentemente ricevuto una nuova versione del modello linguistico GPT, che Supera le aspettative e può anche analizzare nuovi dati. Ciò solleva la domanda: quali sono i limiti dell’intelligenza artificiale?

Problema di allineamento

Come possiamo rendere l’intelligenza artificiale più intelligente di noi per fare esattamente ciò che vogliamo che faccia? Questa domanda sembra uscita da un film di fantascienza, ma in realtà è vera. Questa domanda è chiamata problema dell’adattamento: Come possiamo assicurarci di non perdere il controllo di qualcosa di più intelligente di noi?

Il problema è che non abbiamo alcuna possibilità di farlo bene se non raggiungiamo un’intelligenza artificiale sovrumana. Ciò sta portando aziende come OpenAI a concentrarsi su come rispondere a questa domanda senza perdere il controllo di ciò che fa prosperare un’azienda oggi.

Come avrebbero potuto controllare qualcosa di soprannaturale?

La risposta a questa domanda, secondo un nuovo post di OpenAI, è: Utilizzare altre IA per questo lavoro. L’idea è quella di utilizzare sistemi di intelligenza artificiale più piccoli per monitorare un’intelligenza artificiale più completa.

Un esempio di utilizzo di OpenAI è l’utilizzo di GPT-2, lanciato nel 2019, per monitorare GPT-4, lanciato nel 2023.

In questo modo, il modello più piccolo di IA può controllare modelli più grandi Monitorare e individuare i problemi. Questo sarebbe un compito difficile per gli esseri umani, che, secondo l’articolo, sarebbero dei mediocri osservatori.

Possiamo credere all'esistenza di un'intelligenza artificiale con altra intelligenza artificiale?

OpenAI sostiene che questo sia il modo migliore per garantire che il controllo di questi sistemi di super-intelligenza artificiale non venga perso. Tuttavia, sono ancora necessari sforzi nella ricerca e nell’applicazione di queste tecniche.

Secondo la pubblicazione, si spera di avere la risposta entro quattro anni mentre continuano gli sforzi per migliorare questi modelli linguistici. Si discute già della prossima nuova intelligenza artificiale di OpenAI chiamata Q*, Che sostiene di poter risolvere anche il ragionamento logico.