OpenAI reporte le lancement de « GPT-6.1 Astra » en raison de préoccupations liées à la sécurité

OpenAI a annoncé le report du lancement de son nouveau modèle d’intelligence artificielle, baptisé « GPT-6.1 Astra », à la suite de préoccupations en matière de sécurité exprimées par ses chercheurs. Cette décision vise à ralentir le rythme de développement de cette technologie afin de mieux l’aligner sur les normes de sécurité applicables aux systèmes dotés d’un degré élevé d’autonomie.

Selon le Wall Street Journal, cette annonce intervient à la veille d’une réunion prévue à Washington entre des dirigeants du secteur de l’intelligence artificielle et le président américain Donald Trump, dans un contexte de pressions croissantes exercées sur les entreprises technologiques afin qu’elles assument davantage de responsabilités concernant les usages non autorisés de leurs modèles.

À ce sujet, Sashi Jain, responsable des systèmes de sécurité chez OpenAI, a indiqué dans un communiqué que la version prévue ne répondait pas encore pleinement aux critères requis. Elle a précisé que le modèle avait démontré une capacité accrue à accomplir des tâches, tout en soulignant la nécessité de trouver un équilibre entre ces performances et les risques liés à des comportements non autorisés.

Jain a réaffirmé l’engagement de l’entreprise à garantir la sécurité et l’alignement du modèle, aussi bien durant les phases de tests internes qu’après son lancement définitif, soulignant l’application de normes élevées en matière de sécurité et d’alignement.

OpenAI avait par ailleurs décidé, la semaine dernière, de suspendre l’entraînement de ses modèles les plus avancés, annonçant que les travaux reprendraient dès que des mesures de protection supplémentaires jugées suffisantes seraient mises en place.