Anthropic avverte sul rischio di un’IA che si autoperfeziona

Anthropic ha comunicato agli investitori che nel prossimo futuro potrebbe avvicinarsi alla creazione di un’intelligenza artificiale in grado di migliorare autonomamente le proprie capacità. L’avvertimento è contenuto nei materiali aggiornati predisposti in vista della prevista quotazione in borsa. Per la prima volta l’azienda ha descritto in dettaglio il rischio del miglioramento ricorsivo (Recursive Self-Improvement, RSI).

Con questo termine si indica un processo in cui un sistema di intelligenza artificiale contribuisce alla creazione di modelli sempre più avanzati, accelerando così il proprio sviluppo. Questo scenario è considerato uno dei possibili punti di svolta nella storia della tecnologia. I suoi sostenitori lo associano a una forte crescita della produttività, a nuove scoperte scientifiche e all’automazione del lavoro di ricerca.

I critici, a loro volta, segnalano i pericoli di tale approccio. A loro avviso, i sistemi capaci di migliorarsi da soli potrebbero evolvere più rapidamente di quanto gli specialisti riescano a costruire meccanismi di sicurezza affidabili. Nei suoi documenti Anthropic riconosce la fondatezza di entrambe le posizioni.

L’azienda ha precisato di impiegare già l’intelligenza artificiale nelle proprie attività di ricerca e nello sviluppo di nuovi modelli. Una simile pratica, tuttavia, può far sì che le capacità dei sistemi crescano più velocemente della possibilità degli sviluppatori di valutarne sicurezza, affidabilità e coerenza con gli obiettivi umani.

Anthropic ha inoltre riferito che in passato i salti significativi nelle capacità dei suoi modelli non sono stati rilevati subito. In futuro accelerazioni di questo tipo potrebbero restare inosservate fino al momento in cui si verificano. Le valutazioni interne e le previsioni sui modelli futuri indicano che l’azienda potrebbe raggiungere a breve la soglia da lei definita come progresso fortemente accelerato, determinato dall’intelligenza artificiale.

Al tempo stesso Anthropic sottolinea che nessuno dei modelli attuali è stato ritenuto conforme a tale criterio. Inoltre, nei documenti si afferma che nel prossimo futuro l’azienda non intende affidare a Claude la progettazione e la creazione completamente autonome delle prossime generazioni di modelli avanzati senza la supervisione umana.