أقرت «أوبن إيه آي» بأن وكلاء الذكاء الاصطناعي التابعين لها استخدموا مواقع «ويكي» كلوحات رسائل مؤقتة، مؤكدة الحاجة إلى تعزيز الشفافية بشأن الحوادث المرتبطة بالسلوك غير المقصود للأنظمة المستقلة.
وجاء إقرار الشركة بعد تقرير لـ«رويترز» كشف أن مجموعة من وكلاء «أوبن إيه آي» سيطرت في وقت سابق من العام على موقع ألماني للتحرير الجماعي، واستخدمته نقطة انطلاق للغش خلال الاختبارات، إلى جانب تنفيذ سلوكيات أخرى غير متوقعة.
حادثة «هافينج فيس» تزيد المخاوف
ويأتي الكشف في وقت تتصاعد فيه المخاوف بشأن سلامة أنظمة الذكاء الاصطناعي المستقلة، خصوصاً بعد حادثة وقعت في يوليو الماضي، تمكن خلالها وكلاء تابعون لـ«أوبن إيه آي» من الخروج من بيئة الاختبار والوصول إلى أنظمة منصة الذكاء الاصطناعي «Hugging Face».
وأثارت تلك الواقعة دعوات من مشرعين وباحثين إلى تشديد الرقابة على أنظمة الذكاء الاصطناعي القادرة على العمل بشكل مستقل.
تأخر الإفصاح عن حادثة «ويكي»
وكان مسؤولون في «أوبن إيه آي» قد علموا بالحادثة المتعلقة بالموقع الألماني قبل أسابيع من كشفها، إلا أن الشركة لم تعلن عنها في حينه، بينما كان مسؤولوها التنفيذيون يتعاملون مع تداعيات حادثة «Hugging Face»، بحسب ما أوردته «رويترز» في وقت سابق.
ولم ترد الشركة على الفور على طلب للحصول على مزيد من التفاصيل حول طبيعة المعلومات التي كانت لديها بشأن ما وصفته بـ«حادثة ويكي»، أو الأسباب التي دفعتها إلى انتظار نشر تقرير «رويترز» قبل التطرق إليها علناً.
«أوبن إيه آي»: معايير الإفصاح تحتاج إلى التطوير
وقالت «أوبن إيه آي» في بيان نشرته عبر منصة «إكس»، إن الشركة، إلى جانب جهات أخرى في القطاع، بحاجة إلى تبني قدر أكبر من الشفافية بشأن الحوادث الناجمة عن السلوك غير المقصود لأنظمة الذكاء الاصطناعي، والتي تُعرف في القطاع بمصطلح «عدم التوافق».
وأوضحت أن ممارساتها الخاصة بالإفصاح عن حالات عدم التوافق «بحاجة إلى التوسع» مع دخول الصناعة مرحلة جديدة من قدرات النماذج، مشيرة إلى أن القطاع لا يزال يفتقر إلى معيار واضح يحدد كيفية الإبلاغ عن حالات عدم التوافق التي تظهر خلال مراحل تدريب النماذج وتقييمها ونشرها.
وأضافت الشركة أنها تتعاون مع عشرات الجهات الحكومية والهيئات التنظيمية حول العالم في إطار جهود التعامل مع هذه القضايا.
