Anthropic alerta investidores sobre IA que se aperfeiçoa

A empresa Anthropic informou aos investidores que, em breve, poderá se aproximar da criação de uma inteligência artificial capaz de aprimorar de forma autônoma as suas próprias capacidades. O alerta consta em materiais atualizados, elaborados em razão da abertura de capital planejada. Pela primeira vez, a companhia descreveu em detalhes o risco do aperfeiçoamento recursivo (Recursive Self-Improvement, RSI).

O termo designa um processo em que um sistema de inteligência artificial participa da criação de modelos cada vez mais avançados e, dessa forma, acelera o próprio desenvolvimento. Esse cenário é visto como um dos possíveis pontos de virada na história da tecnologia. Seus defensores o associam a um forte aumento da produtividade, a novas descobertas científicas e à automação do trabalho de pesquisa.

Os críticos, por sua vez, apontam os perigos dessa abordagem. Na avaliação deles, sistemas capazes de se aprimorar sozinhos podem evoluir mais rápido do que os especialistas conseguem construir mecanismos de segurança confiáveis. Em seus documentos, a Anthropic reconhece a legitimidade de ambas as visões.

A empresa afirmou que já utiliza inteligência artificial em suas próprias pesquisas e no desenvolvimento de novos modelos. No entanto, essa prática pode fazer com que as capacidades dos sistemas cresçam mais rapidamente do que a habilidade dos desenvolvedores de avaliar sua segurança, confiabilidade e alinhamento com objetivos humanos.

A Anthropic também informou que, no passado, saltos significativos nas capacidades de seus modelos não foram percebidos de imediato. No futuro, acelerações desse tipo podem passar despercebidas até que de fato ocorram. Avaliações internas e projeções sobre modelos futuros indicam que a companhia pode atingir em breve o limite que define como progresso fortemente acelerado, impulsionado pela inteligência artificial.

Ao mesmo tempo, a Anthropic ressalta que nenhum dos modelos atuais foi considerado compatível com esse critério. Além disso, os documentos afirmam que, em um futuro previsível, a empresa não pretende confiar ao Claude o projeto e a criação totalmente autônomos das próximas gerações de modelos avançados, sem supervisão humana.