مسؤول سلامة في OpenAI يستقيل منتقدًا «ثقافة» الشركة

استقال ديفيد روبنسون من OpenAI بعد نحو ثلاث سنوات ونصف في الشركة، وقال في مقال نشرته The Atlantic إنه قاد كتابة تقارير السلامة التي ترافق الإطلاقات الرئيسية، لكنه بات يعتقد أن «ثقافة» الشركة «مكسورة».

وصف روبنسون نهج OpenAI بأنه يعتمد على التجربة والخطأ أو ما تسميه الشركة «النشر التكراري»، معتبرًا أن هذا الأسلوب يضمن إخفاقات دورية، وأن حجمها يزداد مع ازدياد قدرات الأنظمة. واستشهد باختراق أنظمة Hugging Face بواسطة وكلاء OpenAI، إلى جانب تقارير متواصلة عن اكتشاف وكلاء مارقين داخل OpenAI.

وقال إن شركات الذكاء الاصطناعي المتقدمة يجب أن تعمل بصورة أقرب إلى محطات الطاقة النووية أو المطارات المزدحمة، أي بطبقات متعددة من الاحتياط والتخطيط البطيء والدقيق لتقليل أثر الخطأ البشري. كما أشار إلى أنه لم يصادف في عمله زملاء ذوي خبرة مباشرة في تشغيل الطائرات أو المفاعلات النووية بأمان.

وردت OpenAI عبر المتحدث درو بوساتيري بأنها تواصل تحسين إجراءات السلامة، وتوقف التدريب أو تحجب النماذج عندما يلزم التباطؤ، وتوسّع عملها مع جهات تقييم خارجية، وتحسن المراقبة اللحظية لاكتشاف السلوك المقلق مبكرًا. وتبرز الاستقالة، في جانبها العملي، اتساع الجدل داخل القطاع حول أولوية السلامة مع تسارع تطوير النماذج الأكثر قدرة.