أزمة جديدة تضرب أوبن إيه آي بعد اتهامات بفصل 3 باحثين بسبب مخاوف أمان الذكاء الاصطناعي
أثارت شركة أوبن إيه آي (OpenAI)، المطورة لبرنامج الذكاء الاصطناعي تشات جي بي تي (ChatGPT)، جدلًا جديدًا بشأن سياسات السلامة داخل شركات التكنولوجيا، بعدما اتهم ثلاثة باحثين أمنيين الشركة بفصلهم على خلفية إثارتهم مخاوف تتعلق بأمان أنظمة الذكاء الاصطناعي، في تطور يعيد تسليط الضوء على التحديات التي تواجه القطاع مع تسارع تطوير النماذج المتقدمة.
وجاءت الاتهامات على لسان الباحث ميكيتا باليسني، الذي نشر رسالة عبر منصة إكس، إلى جانب زميليه توميك كورباك وجاسمين وانغ، ووجّهوا خلالها رسالة إلى الجهات الإشرافية المعنية داخل الشركة. وفي المقابل، أكدت أوبن إيه آي أن قرار الفصل ارتبط بمخالفات تتعلق بالتعامل مع المعلومات الحساسة والإخلال بالثقة المهنية، ونفت أن يكون مجرد التعبير عن المخاوف سببًا كافيًا لإنهاء عمل الموظفين.
وتأتي هذه الأزمة في وقت تتزايد فيه التساؤلات بشأن قدرة شركات الذكاء الاصطناعي على ضمان سلامة نماذجها والتحكم في سلوكها، خصوصًا مع ظهور نتائج مقلقة خلال اختبارات الامتثال والالتزام بالتعليمات.
أوبن إيه آي تواجه اتهامات جديدة بشأن سلامة الذكاء الاصطناعي
دخلت أوبن إيه آي دائرة الجدل مجددًا بعد اتهام ثلاثة باحثين أمنيين للشركة بإنهاء عملهم بسبب إثارة مخاوف تتعلق بسلامة تقنيات الذكاء الاصطناعي، وهي القضية التي أصبحت من أبرز الملفات المطروحة داخل شركات التكنولوجيا الكبرى.
وقال الباحث ميكيتا باليسني، في منشور عبر منصة إكس، إنه يعتقد أن قرار فصله وزميليه جاء نتيجة إعطاء الأولوية للأمن على حساب المصالح قصيرة المدى للشركة. وجاء التصريح بعد فترة من الصمت أعقبت فصل الباحثين، الذي حظي باهتمام إعلامي واسع.
وضمت المجموعة إلى جانب باليسني كلًا من توميك كورباك وجاسمين وانغ، حيث عمل الباحثون في مجال مراقبة نماذج الذكاء الاصطناعي التابعة للشركة، وهي مهمة ترتبط بتقييم سلوك الأنظمة واختبار مدى التزامها بالضوابط والتعليمات المحددة لها.
وأعاد هذا التطور طرح تساؤلات بشأن كيفية التعامل مع التحذيرات الداخلية التي يقدمها العاملون في مجال أمن الذكاء الاصطناعي، والآليات التي تضمن عدم تعارض الضغوط التجارية مع متطلبات السلامة.
أوبن إيه آي ترد على اتهامات الباحثين وتوضح أسباب الفصل
في المقابل، قدمت أوبن إيه آي رواية مختلفة بشأن إنهاء عمل الباحثين الثلاثة، إذ أعلنت في بيان صدر في الأول من أكتوبر أن القرار جاء بسبب انتهاك القواعد المتعلقة بالمعلومات الحساسة والإخلال بالثقة اللازمة لاستمرار العمل داخل المؤسسة.
وأكد مسؤول في قسم الأبحاث بالشركة، في مذكرة داخلية وُجهت إلى الموظفين الأربعاء، أن أوبن إيه آي لا تفصل العاملين لمجرد تعبيرهم عن مخاوفهم. وجاء هذا التصريح في محاولة لتوضيح موقف الشركة من الاتهامات التي أثارت نقاشًا بشأن بيئة العمل وآليات الإبلاغ عن المخاطر.
وفي رسالة وجهها الباحثون الثلاثة إلى الجهات الإشرافية المعنية داخل الشركة، أعادوا تسليط الضوء على مخاوفهم المرتبطة بالتعامل مع أمن النماذج، وفقًا للتفاصيل الواردة في التقرير.
وحتى الآن، يظل الخلاف قائمًا بين رواية الباحثين بشأن دوافع الفصل وتفسير الشركة للقرار باعتباره مرتبطًا بقواعد العمل والثقة المهنية. ولا تكفي الاتهامات المتبادلة وحدها لحسم الأسباب الفعلية وراء إنهاء عملهم.
|
الطرف |
الموقف المعلن |
|---|---|
|
الباحثون الثلاثة |
يربطون الفصل بإثارة مخاوف تتعلق بالأمان |
|
أوبن إيه آي |
تؤكد وجود مخالفات تتعلق بالمعلومات الحساسة والثقة |
|
مسؤول الأبحاث |
ينفي أن يكون التعبير عن المخاوف سببًا للفصل بحد ذاته |
أوبن إيه آي تختبر نماذج الذكاء الاصطناعي وسط مخاوف متزايدة
تكتسب الأزمة أهمية إضافية بسبب طبيعة عمل الباحثين الثلاثة، الذين تخصصوا في مراقبة نماذج أوبن إيه آي وتقييم أدائها، في ظل تزايد صعوبة السيطرة على بعض الأنظمة المتقدمة.
ووفقًا للمعلومات الواردة في التقرير، ظهرت نتائج ضعيفة لبعض النماذج خلال شهر يوليو في مجالين يتعلقان بالامتثال والالتزام بالتعليمات التي يضعها مطوروها. وتُعد هذه الاختبارات من الجوانب المهمة في تقييم سلامة الذكاء الاصطناعي، لأنها تساعد على تحديد مدى استجابة الأنظمة للضوابط الموضوعة وتكشف أوجه القصور المحتملة.
ولا يقتصر تقييم النماذج على قدرتها على تقديم إجابات دقيقة أو تنفيذ المهام بسرعة، بل يشمل أيضًا اختبار سلوكها في الظروف المختلفة، ومدى التزامها بالقيود المحددة، وقدرتها على تجنب المخرجات أو التصرفات غير المرغوبة.
وتبرز أهمية هذه الاختبارات مع دخول تقنيات الذكاء الاصطناعي في مجالات متعددة، من البحث العلمي إلى البرمجة وتحليل البيانات والخدمات الرقمية، إذ يمكن أن يؤدي ضعف الرقابة إلى مخاطر تتجاوز حدود الاستخدام الفردي.
لكن نتائج اختبارات الامتثال لا تعني بالضرورة فقدان السيطرة الكاملة على النظام، بل تحتاج إلى تقييم دقيق لطبيعة الاختبار، وحجم الإخفاقات، والظروف التي ظهرت فيها، والإجراءات التصحيحية المتخذة.
أوبن إيه آي وأنثروبيك تواجهان جدلًا بشأن مستقبل أمن الذكاء الاصطناعي
تأتي أزمة أوبن إيه آي ضمن نقاش أوسع في وادي السيليكون بشأن التوازن بين تسريع تطوير الذكاء الاصطناعي وضمان سلامة النماذج المتقدمة. فقد ارتبطت نماذج تابعة لشركتي أوبن إيه آي وأنثروبيك بحوادث ومخاوف أمنية خلال الاختبارات، ما زاد الضغوط المطالبة بتعزيز إجراءات الرقابة والتقييم.
ويتمحور الخلاف حول كيفية إدارة المخاطر دون تعطيل الابتكار؛ فبينما يرى أنصار التشدد في إجراءات السلامة ضرورة التحقق من قدرات الأنظمة قبل توسيع استخدامها، يبرز في المقابل اهتمام بتطوير تقنيات أكثر تقدمًا والاستفادة من تطبيقاتها الاقتصادية والعلمية.
وفي هذا السياق، أصبحت آليات الإبلاغ الداخلي عن المخاطر، واستقلالية فرق السلامة، ووضوح سياسات التعامل مع المعلومات الحساسة، عناصر أساسية في النقاش بشأن حوكمة شركات الذكاء الاصطناعي.
ولا تتوقف أهمية القضية عند مصير الباحثين الثلاثة، بل تمتد إلى كيفية تعامل الشركات مع التحذيرات الفنية، والضمانات التي توفرها للعاملين الذين يكتشفون نقاط ضعف محتملة، مع الحفاظ على سرية المعلومات والالتزام بالقواعد المهنية.
وفي النهاية، تضع الأزمة أوبن إيه آي أمام اختبار يتعلق بالثقة والشفافية، في وقت أصبحت فيه سلامة الذكاء الاصطناعي قضية رئيسية في مستقبل الصناعة. وستظل نتائج التحقيق في ملابسات الفصل، ومدى وضوح الإجراءات الداخلية، من العوامل المهمة لفهم أبعاد الخلاف وتداعياته على قطاع التكنولوجيا.
