Anthropic alerte ses investisseurs sur une IA auto-améliorée

La société Anthropic a indiqué à ses investisseurs qu’elle pourrait, à relativement court terme, se rapprocher de la création d’une intelligence artificielle capable d’améliorer seule ses propres capacités. Cet avertissement figure dans des documents actualisés, préparés en vue de la prochaine introduction en bourse. Pour la première fois, l’entreprise décrit en détail le risque d’auto-amélioration récursive (Recursive Self-Improvement, RSI).

Ce terme désigne un processus dans lequel un système d’intelligence artificielle participe à la conception de modèles toujours plus performants, accélérant ainsi son propre développement. Ce scénario est considéré comme l’un des points de bascule possibles de l’histoire des technologies. Ses partisans y voient une hausse sensible de la productivité, de nouvelles découvertes scientifiques et l’automatisation du travail de recherche.

Les détracteurs, de leur côté, soulignent les dangers de cette approche. Selon eux, des systèmes capables de s’améliorer eux-mêmes pourraient évoluer plus vite que les spécialistes ne parviennent à mettre en place des mécanismes de sécurité fiables. Dans ses documents, Anthropic reconnaît le bien-fondé des deux points de vue.

L’entreprise précise qu’elle utilise déjà l’intelligence artificielle dans ses propres recherches et dans le développement de nouveaux modèles. Une telle pratique peut toutefois conduire à ce que les capacités des systèmes progressent plus rapidement que la faculté des développeurs à en évaluer la sécurité, la fiabilité et la conformité aux objectifs humains.

Anthropic a également signalé que, par le passé, des sauts importants dans les capacités de ses modèles n’avaient pas été repérés immédiatement. À l’avenir, de telles accélérations pourraient passer inaperçues jusqu’à leur survenue. Les évaluations internes et les projections sur les futurs modèles indiquent que l’entreprise pourrait atteindre prochainement le seuil qu’elle définit comme un progrès fortement accéléré, porté par l’intelligence artificielle.

Dans le même temps, Anthropic souligne qu’aucun des modèles existants n’a été jugé conforme à ce critère. Par ailleurs, les documents précisent que, dans un avenir prévisible, l’entreprise n’envisage pas de confier à Claude la conception et la création entièrement autonomes des prochaines générations de modèles avancés, sans contrôle humain.