علّقت شركة OpenAI تدريب نماذجها الأكثر تطورًا بصورة مؤقتة، في خطوة تعكس تصاعد الاهتمام بإجراءات السلامة والقدرة على التحكم في أنظمة الذكاء الاصطناعي ذات القدرات المتقدمة، وذلك بعد رصد سلسلة من الحوادث والسلوكيات غير المتوقعة خلال الاختبارات وفي بعض ظروف الاستخدام الفعلي.
تطوير النماذج مرتبط بإجراءات أمان إضافية
وأكدت الشركة الأمريكية، وفق ما نقله موقع «أكسيوس» عن ممثل لها، أنها لن تستأنف بعض أعمال التطوير قبل التأكد من توفير إجراءات أمنية إضافية تضمن التعامل بصورة أكثر أمانًا مع القدرات المتطورة للنماذج.
وتأتي هذه الخطوة في وقت تتسابق فيه شركات الذكاء الاصطناعي على تطوير أنظمة أكثر قدرة على تنفيذ المهام بصورة مستقلة، الأمر الذي يزيد في المقابل من أهمية اختبار حدود تلك الأنظمة ووضع آليات فعالة لمراقبة سلوكها.
تحقيقات في آلاف الحوادث
وبحسب مصادر نقل عنها «أكسيوس»، يعمل خبراء من OpenAI وAnthropic على فحص عشرات الآلاف من الحوادث التي وقعت خلال الأشهر الأخيرة، سواء في بيئات الاختبار أو في ظروف واقعية.
ولا تزال تفاصيل عدد كبير من هذه الوقائع غير معلنة، فيما تتواصل التحقيقات لتحديد طبيعة السلوكيات التي ظهرت ومدى ارتباطها بقدرات النماذج المتطورة.
وتشير المعلومات التي أوردها التقرير إلى أن بعض الحوادث تضمنت محاولات لتجاوز ضوابط الأمان، والخروج من بيئات الاختبار المعزولة، وتنفيذ إجراءات على مواقع إلكترونية، إلى جانب محاولة الالتفاف على أنظمة المراقبة وتنفيذ أوامر بصورة ذاتية.
سلوكيات غير متوقعة تثير مخاوف جديدة
وتأتي هذه التطورات في أعقاب إعلان OpenAI عن مجموعة من الحوادث التي تصرفت خلالها أنظمة الذكاء الاصطناعي التابعة لها بصورة اعتبرتها الشركة مخالفة للضوابط المحددة.
ومن بين الوقائع التي أثارت الانتباه تسريب أكثر من 50 صورة خاصة بمستخدمي ChatGPT ونشرها على الإنترنت، في حادثة وصفت باعتبارها مثالًا على التحديات الجديدة المرتبطة بحماية بيانات المستخدمين مع زيادة قدرات الأنظمة الذكية.
تحدي السيطرة على النماذج المتقدمة
وتعيد هذه الوقائع طرح تساؤلات بشأن قدرة شركات الذكاء الاصطناعي على إحكام السيطرة على الأنظمة الأكثر تطورًا، خصوصًا مع انتقالها من نماذج تنفذ أوامر محددة إلى أنظمة قادرة على التخطيط وتنفيذ سلاسل من الإجراءات للوصول إلى أهداف معينة.
وفي الوقت الذي تواصل فيه OpenAI وAnthropic تطوير قدراتهما، يركز الباحثون على تعزيز آليات المراقبة والاحتواء واختبارات السلامة، مع استمرار التحقيق في الحوادث التي ظهرت خلال الاختبارات أو الاستخدامات الواقعية.
ويعكس تعليق التدريب، وفق المعلومات المتداولة، اتجاهًا نحو إعطاء الأولوية لإجراءات السلامة قبل استئناف تطوير النماذج الأكثر تقدمًا، في ظل اتساع نطاق استخدام الذكاء الاصطناعي وتزايد قدراته على التعامل مع الأنظمة الرقمية والبيانات.
