Le patron d’Anthropic appelle à ralentir le développement de l’intelligence artificielle

Le directeur général d’Anthropic, Dario Amodei, a appelé à ralentir le développement de l’intelligence artificielle et à mieux en maîtriser la trajectoire. Dans une lettre publiée sur son site personnel, il a souligné la nécessité d’encadrer les avancées technologiques afin de limiter les risques potentiels.

Cet appel intervient quelques jours après la démission publique du chercheur Jacob Coxon, membre du département de recherche sur le préentraînement de cette entreprise basée en Californie. Celui-ci a accusé Anthropic et OpenAI d’agir de manière irresponsable en se livrant à une course vers une superintelligence capable de s’améliorer elle-même, au risque de menacer des vies humaines.

Ancien chercheur chez OpenAI, Coxon a déclaré à la presse que les modèles développés pourraient échapper à tout contrôle d’ici la fin de l’année prochaine. Il a évoqué leur capacité à mener rapidement des cyberattaques et à s’emparer du pouvoir et des ressources, tout en alertant sur le risque de catastrophes existentielles d’ici la fin de la décennie.

Ces inquiétudes croissantes ont également remis en lumière les avertissements du défunt astrophysicien Stephen Hawking. Il estimait que le développement d’une intelligence artificielle complète pourrait entraîner la disparition de l’humanité et son remplacement, les machines étant capables de se reconfigurer à un rythme exponentiel que les capacités humaines ne pourraient suivre.

Ces évolutions traduisent les préoccupations grandissantes des chercheurs et des experts concernant l’utilisation de l’intelligence artificielle dans des domaines dangereux, notamment les armes biologiques, alors que se multiplient les appels à instaurer des cadres réglementaires contraignants pour les entreprises qui développent ces technologies.