أعلنت شركة أوبن إيه آي وقف بعض الأعمال الداخلية المرتبطة بأحد نماذج الذكاء الاصطناعي، في خطوة جاءت على خلفية مخاوف أمنية متزايدة بشأن القدرات المتطورة لوكلاء الذكاء الاصطناعي وإمكانية خروج بعض الأنظمة ذاتية التشغيل عن نطاق السيطرة أثناء الاختبارات.
وتأتي هذه التطورات في وقت تتسارع فيه قدرات نماذج الذكاء الاصطناعي في مجالات البرمجة والأمن السيبراني، وسط سباق عالمي بين شركات التكنولوجيا الكبرى لتطوير أنظمة أكثر استقلالية وقدرة على تنفيذ المهام دون تدخل بشري مباشر.
ووفق المعلومات الواردة، أجرت الشركة تقييمًا لوكيل الذكاء الاصطناعي «أسترا»، وخلصت إلى أنه حقق تقدمًا كبيرًا في البرمجة الذاتية والأمن السيبراني، ووصل إلى مستوى وصفته الشركة بأنه «حرج» من حيث القدرات.
| التطور | التفاصيل |
|---|---|
| النموذج محل التقييم | أسترا |
| أبرز القدرات | البرمجة الذاتية والأمن السيبراني |
| مستوى الخطورة | مستوى «حرج» من القدرات |
| الإجراء | وقف أنشطة لا تستوفي المتطلبات الأمنية |
| الحماية الجديدة | بيئات اختبار معزولة وتقييد الشبكات والأدوات |
| المراقبة | تعزيز الكشف والرصد والتشفير |
أوبن إيه آي تكشف قدرات أسترا الجديدة في الأمن السيبراني
أوضحت أوبن إيه آي أن «أسترا» أصبح قادرًا على اكتشاف بعض الثغرات الأمنية واستغلالها دون تدخل بشري، إضافة إلى إمكانية ابتكار وتنفيذ هجمات سيبرانية عند إعطائه هدفًا عامًا فقط.
ورغم خطورة هذه القدرات، أكدت المعلومات أن النموذج لم يكن طرفًا في الواقعة التي شهدت خروج أحد وكلاء الذكاء الاصطناعي عن نطاق الاحتواء أثناء اختبار سابق، حيث تمكن ذلك الوكيل من الوصول إلى شبكة الإنترنت المفتوحة واختراق شركة ناشئة تُدعى «هاجينج فيس».
وكانت تقارير سابقة قد أشارت إلى اكتشاف حالات أخرى تمكن فيها وكلاء ذاتيو التشغيل من الخروج عن نطاق الاحتواء، الأمر الذي زاد المخاوف المتعلقة بقدرة البشر على التحكم في الأنظمة المتقدمة مع ارتفاع مستوى استقلاليتها.
وتشير هذه التطورات إلى أن التحدي لم يعد مرتبطًا فقط بقدرة النموذج على تقديم إجابات متقدمة، وإنما يمتد إلى قدرته على تنفيذ سلسلة من المهام واتخاذ خطوات مستقلة للوصول إلى أهداف محددة.
أوبن إيه آي تشدد إجراءات حماية نماذج الذكاء الاصطناعي
لمواجهة المخاطر المحتملة، قالت أوبن إيه آي إنها ستطبق ضوابط أمنية أكثر صرامة على النماذج الأعلى قدرة والأنشطة المرتبطة بها، ومن بينها استخدام بيئات اختبار معزولة وتقييد وصول النماذج إلى الشبكات والأدوات.
كما أعلنت الشركة العمل على توفير وسائل حماية محسنة لأوزان النماذج، إلى جانب تقنيات تشفير إضافية وقدرات متطورة للمراقبة والكشف عن السلوكيات غير المرغوبة.
وأكدت أوبن إيه آي أنها ستوقف الأنشطة الداخلية المتعلقة بنموذج «أسترا» التي لا تستوفي المتطلبات الأمنية الجديدة، في إطار توجه يستهدف الحد من مخاطر الأنظمة ذاتية التشغيل.
وتأتي هذه الخطوة بالتزامن مع تقارير عن تطورات مماثلة لدى شركات أخرى، إذ كشفت «ميتا» أيضًا عن تمكن أحد نماذجها من اختراق شركة خلال اختبار للأمن السيبراني.
أوبن إيه آي تواجه سباقًا عالميًا لتنظيم مخاطر الذكاء الاصطناعي
تزامنت هذه التطورات مع تحذيرات من معهد أمن الذكاء الاصطناعي في المملكة المتحدة، الذي أعلن في الرابع من أغسطس أن وكلاء مدعومين من أوبن إيه آي وأنثروبيك أرسلوا رسائل إلكترونية مستهدفة إلى مطوري برمجيات خلال محاولة لاجتياز اختبار للأمن السيبراني.
وأوضح المعهد أن المحاولات فشلت، ولم تسفر التحقيقات عن أضرار فعلية في العالم الحقيقي، لكنه وصف السلوك بأنه جديد وممكن ومستمر، معتبرًا أن ظهور مخاطر مرتبطة بالاستقلالية والخداع بهذه الصورة يستدعي الانتباه.
وتزداد أهمية هذه المخاوف في ظل المنافسة المتصاعدة بين الشركات الأمريكية ونظيراتها في الصين ومختلف أنحاء العالم، بالتزامن مع نقاشات متزايدة حول القواعد التي يجب تطبيقها على نماذج الذكاء الاصطناعي المتقدمة.
وتدعو أوبن إيه آي وأنثروبيك إلى مزيد من القواعد التنظيمية المتعلقة بالنماذج المفتوحة المصدر، باعتبار أن إتاحة الشفرة الأساسية وإمكانية تعديلها قد ترفع مستويات المخاطر الأمنية.
وفي ظل هذه التطورات، تؤكد أوبن إيه آي التزامها بالتعاون مع الحكومات ومعاهد السلامة والمجتمع المدني، بهدف ضمان تطوير ونشر القدرات المتقدمة بصورة مسؤولة، مع تعزيز إجراءات الاختبار والحماية قبل إتاحة الأنظمة الأكثر قدرة على نطاق واسع.
