OpenAI تشدد إجراءات السلامة لمواجهة مخاطـ.ـر نماذج الذكاء الاصطناعي

أعلنت شركة OpenAI  عن حزمة جديدة من التدابير الرامية إلى رفع مستويات الأمن والسلامة خلال تطوير واختبار نماذج الذكاء الاصطناعي، في ظل التطور السريع لقدرات هذه النماذج، خصوصا في مجال الأمن السيبراني.

وتشمل الإجراءات تشديد عزل بيئات العمل والشبكات، بحيث لا يؤدي اختراق نظام أو خدمة واحدة إلى منح وصول غير مصرح به إلى الإنترنت أو إلى شبكات داخلية أخرى. كما تعمل الشركة على توسيع نطاق الاختبارات الأمنية المستمرة وتعزيز جمع وتحليل سجلات الأنشطة.

وتعتمد OpenAI كذلك نظام مراقبة متعدد المراحل يرصد سلوك النماذج، بما في ذلك استخدام الأدوات والأنشطة التي قد تشير إلى محاولات وصول غير مصرح به أو تجاوز إجراءات الحماية. وتستهدف الشركة إصدار تنبيه خلال 30 دقيقة من ظهور نشاط مثير للقلق.

وبحسب الشركة، يحتاج نظام المراقبة في وضعه الحالي إلى موارد حوسبة إضافية تعادل نحو 20% من قدرة الحوسبة المستخدمة في العملية التي تتم مراقبتها، مع اختلاف التكلفة بحسب نوع التدريب أو الاختبار.

وتأتي هذه الخطوات ضمن توجه أوسع لدى الشركة لتعزيز ثلاثة محاور رئيسية في تطوير النماذج المتقدمة: المراقبة، والمواءمة، والأمن، بهدف الحد من المخاطر المرتبطة بارتفاع قدرات الذكاء الاصطناعي.