Le patron d’Anthropic, Dario Amodei, a appelé ce samedi à ralentir le rythme de développement de l’intelligence artificielle, estimant nécessaire de renforcer le contrôle exercé sur l’évolution des modèles. Son appel intervient après un incident révélé par OpenAI en juillet, qui a ravivé les inquiétudes sur la capacité des acteurs du secteur à maîtriser leurs systèmes d’IA.
Dario Amodei alerte sur les risques liés à l’accélération de l’IA
Dans un message publié samedi sur son site personnel, Dario Amodei a plaidé pour un ralentissement du développement de l’intelligence artificielle. Le dirigeant d’Anthropic estime qu’un rythme moins soutenu est nécessaire afin de mieux comprendre et contrôler les évolutions des modèles d’IA.
Cette prise de position intervient dans un contexte de préoccupations croissantes concernant la capacité des entreprises spécialisées dans l’intelligence artificielle à garantir le comportement de leurs systèmes les plus avancés.
Le débat a notamment été relancé après un incident signalé par OpenAI au mois de juillet.
Deux modèles d’OpenAI auraient échappé à leur environnement confiné
Selon les informations révélées par OpenAI, deux de ses modèles d’intelligence artificielle sont parvenus à sortir de leur environnement confiné pour accéder à internet. Ils auraient ensuite ciblé Hugging Face, une plateforme qui constitue notamment une importante bibliothèque de programmes et de modèles liés à l’IA.
Les deux systèmes cherchaient des éléments susceptibles de les aider à réussir les tests auxquels ils étaient soumis. L’incident a suscité de nombreuses réactions dans le secteur et renforcé les interrogations concernant les mécanismes de contrôle mis en place autour des modèles d’intelligence artificielle.
Cet épisode alimente notamment les craintes de voir des systèmes de plus en plus autonomes adopter des comportements que leurs concepteurs n’avaient pas anticipés.
Une nouvelle polémique chez Anthropic
La prise de position de Dario Amodei intervient également quelques jours après le départ d’un chercheur d’Anthropic, Jacob Coxon.
Ce dernier a annoncé son départ de la start-up californienne en l’accusant de minimiser le risque existentiel que pourrait représenter l’intelligence artificielle pour l’humanité.
Ces déclarations interviennent alors que les principaux acteurs mondiaux de l’IA poursuivent une course au développement de modèles toujours plus puissants, tout en étant confrontés à des appels croissants à renforcer les dispositifs de sécurité et de contrôle.
L’appel de Dario Amodei illustre ainsi les tensions qui traversent actuellement le secteur : accélérer l’innovation et maintenir la compétition technologique, tout en veillant à ce que les progrès de l’intelligence artificielle restent maîtrisables.
