Le PDG de Microsoft alerte sur les risques de l’intelligence artificielle et appelle à des mesures de contrôle plus strictes

Le président-directeur général de Microsoft, Satya Nadella, a appelé, samedi 10 octobre 2026, à concevoir des systèmes d’intelligence artificielle avancés dotés de mécanismes de confinement indépendants et de dispositifs d’arrêt d’urgence, permettant aux personnes habilitées de suspendre temporairement ou d’interrompre complètement leur fonctionnement pendant l’exécution de tâches.

Dans une publication sur la plateforme X, Satya Nadella a souligné la nécessité d’encadrer les modèles d’intelligence artificielle non déterministes par des architectures robustes et déterministes, des mécanismes de contrôle humain et des procédures opérationnelles fiables. Il a également plaidé pour l’élaboration de nouvelles normes sectorielles lorsque les standards existants se révèlent insuffisants.

Selon lui, considérer les modèles avancés, qu’ils soient propriétaires ou à poids ouverts, comme des sources potentielles de risques internes constitue l’une des approches permettant de renforcer la sécurité des systèmes.

D’après un rapport de la chaîne américaine CNBC, ces déclarations interviennent dans un contexte de multiplication des mises en garde formulées par des dirigeants du secteur technologique et des chercheurs concernant l’insuffisance des protocoles de sécurité face à l’évolution rapide de l’intelligence artificielle.

Le mois dernier, un chercheur spécialisé en intelligence artificielle avait quitté l’entreprise Anthropic, accusant celle-ci ainsi que sa concurrente OpenAI de prendre des risques considérables. Un responsable de la sécurité au sein d’Anthropic avait également évoqué une probabilité supérieure à 10 % que cette technologie représente une menace existentielle pour l’humanité au cours de la prochaine décennie.

De son côté, le président américain Donald Trump a, à plusieurs reprises, minimisé les inquiétudes relatives à une éventuelle extinction de l’humanité provoquée par l’intelligence artificielle, privilégiant le maintien de la suprématie technologique américaine face à la concurrence chinoise.

Il a récemment annoncé la création d’une nouvelle unité baptisée « Force de l’intelligence artificielle », placée sous la direction du responsable du renseignement national Jay Clayton, afin de soutenir le secteur et de faire face aux risques sécuritaires.

Dans ce contexte, Satya Nadella a insisté sur l’importance de concevoir des systèmes d’intelligence artificielle fondés sur des principes de surveillance et de contrôle rigoureux, notamment la diversité des modèles, la traçabilité de leurs comportements, les tests continus, les mécanismes de contrôle indépendants, ainsi que la possibilité de réaliser des audits et de signaler les incidents.

Le dirigeant de Microsoft a conclu en soulignant que les systèmes d’intelligence artificielle les plus dignes de confiance sont ceux dont la sécurité repose sur des mécanismes de vérification et de contrôle, plutôt que sur une confiance absolue accordée aux modèles eux-mêmes.