تتزايد الدعوات داخل قطاع التكنولوجيا إلى التمهل في تطوير نماذج الذكاء الاصطناعي الأكثر تقدمًا، مع تصاعد المخاوف بشأن المخاطر التي قد تنتج عن امتلاك هذه الأنظمة قدرات متطورة تتجاوز ما يمكن للفرق البشرية السيطرة عليه بسهولة.
ودعا عدد من أبرز قادة شركات الذكاء الاصطناعي إلى منح عمليات اختبار السلامة وقتًا أكبر، بدلًا من الاستمرار في سباق تطوير النماذج الجديدة بالسرعة نفسها التي شهدها القطاع خلال السنوات الأخيرة.
أنثروبيك تدعو إلى إبطاء سباق الذكاء الاصطناعي
طرح داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، مقترحًا يدعو إلى خفض سرعة تطوير قدرات نماذج الذكاء الاصطناعي المتقدمة، مع التأكيد في الوقت نفسه على أن المقصود ليس وقف الأبحاث أو تجميد التطور التكنولوجي.
وأوضح أمودي أن الشركات بحاجة إلى توفير وقت كافٍ لاختبار النماذج الجديدة والتأكد من وجود إجراءات حماية مناسبة قبل توسيع نطاق استخدامها.
وأشار إلى أن أنثروبيك تعتزم الاستعانة بجهات مستقلة لتقييم إجراءات السلامة لديها، بحيث تحصل هذه الجهات على صلاحيات واسعة تمكنها من مراجعة آليات اختبار المخاطر ورصد الحوادث والإبلاغ عنها.
تأييد من أوبن إيه آي وإيلون ماسك
لم يتأخر رد قادة شركات التكنولوجيا المنافسة، إذ أبدى سام ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي، دعمه لفكرة الاستعانة بمقيّمين مستقلين يتمتعون بإمكانيات وصول قريبة من تلك المتاحة للفرق الداخلية.
كما أعلن إيلون ماسك، الذي يقود شركة إكس إيه آي، تأييده لما طرحه أمودي، في إشارة إلى اتساع نطاق المخاوف المتعلقة بتسارع تطوير تقنيات الذكاء الاصطناعي.
ورغم هذا التقارب في المواقف، فإن الوصول إلى تباطؤ فعلي ومنسق يظل أمرًا معقدًا، خصوصًا أن الشركات الكبرى تخوض منافسة قوية للحصول على حصة أكبر من سوق الذكاء الاصطناعي.
المنافسة تعرقل فكرة التباطؤ
يعتمد قطاع الذكاء الاصطناعي بدرجة كبيرة على سرعة إطلاق المنتجات وتحسين قدراتها، سواء لجذب المستخدمين أو للحصول على عملاء من الشركات وزيادة الإيرادات.
ولهذا فإن الاتفاق على إبطاء التطوير قد يواجه تحديات كبيرة، خاصة مع وجود منافسة قوية بين الشركات الأميركية، إلى جانب الصعود السريع لشركات الذكاء الاصطناعي الصينية.
كما تبرز تساؤلات قانونية حول إمكانية السماح للشركات المتنافسة بالتنسيق فيما بينها لتحديد وتيرة تطوير التكنولوجيا، خصوصًا في ظل قوانين مكافحة الاحتكار.
وتوجد كذلك مخاوف مرتبطة برد فعل المستثمرين، الذين ينظرون إلى سرعة تطوير النماذج وقدرتها على تحقيق إيرادات ضخمة باعتبارها من أهم عوامل نمو شركات الذكاء الاصطناعي.
اختراقات الذكاء الاصطناعي تزيد المخاوف
استند أمودي في تحذيراته إلى التطور المتسارع لقدرة نماذج الذكاء الاصطناعي على تنفيذ مهام معقدة، ومن بينها عمليات مرتبطة بالأمن السيبراني.
وأثارت حادثة تعاون عدد من وكلاء الذكاء الاصطناعي لاختراق موقع إلكتروني تابع لجهة أخرى اهتمامًا واسعًا، بعدما أظهرت أن الأنظمة الحديثة تستطيع تنفيذ سلسلة من المهام بصورة متتابعة وبدرجة أكبر من الاستقلالية.
ويرى أمودي أن الخطر لا يرتبط فقط بما تستطيع النماذج فعله في الوقت الحالي، وإنما بالسرعة التي تتطور بها قدراتها.
وحذر من احتمال أن تتمكن أسراب من وكلاء الذكاء الاصطناعي خلال فترة قصيرة من تنفيذ عمليات واسعة على شبكة الإنترنت، وهو ما قد يؤدي إلى خسائر اقتصادية وأمنية كبيرة إذا لم تكن هناك وسائل فعالة للسيطرة عليها.
أنثروبيك تفتح الباب أمام التقييم المستقل
تعمل أنثروبيك على إدخال مقيّمين مستقلين إلى بيئة عملها، مع توفير الأدوات اللازمة لهم لمراجعة أنظمة السلامة والتعامل مع المخاطر المحتملة.
ومن المنتظر أن يحصل هؤلاء المقيّمون على أجهزة وصلاحيات تسمح لهم بفحص إجراءات الشركة بصورة أكثر استقلالية، بما يساعد على اكتشاف المشكلات التي قد لا تظهر بسهولة أثناء عمليات التقييم الداخلية.
وتعتبر الشركة أن وجود طرف مستقل قادر على مراجعة إجراءات السلامة يمكن أن يعزز الثقة في النماذج المتقدمة، خاصة مع زيادة قدراتها على تنفيذ المهام بصورة ذاتية.
مخاوف من الذكاء الاصطناعي فائق التطور
لم تعد التحذيرات من المخاطر المستقبلية للذكاء الاصطناعي مقتصرة على باحثين أو خبراء مستقلين، بل أصبحت تصدر أيضًا عن مسؤولين داخل الشركات التي تقود عملية تطوير هذه التكنولوجيا.
وكان أمودي قد تحدث في وقت سابق عن احتمال أن تسير الأمور في اتجاه شديد السوء إذا لم يتم التعامل مع تطور الذكاء الاصطناعي بحذر.
وتقول أنثروبيك إنها تسعى إلى تطوير التكنولوجيا بصورة مسؤولة، مع العمل على الحد من المخاطر المحتملة والاستفادة من إمكاناتها في تحسين حياة البشر.
نماذج الذكاء الاصطناعي تخضع لاختبارات أكثر صعوبة
كشفت شركات متخصصة في الذكاء الاصطناعي خلال الفترة الأخيرة عن حوادث تمكنت فيها نماذجها من تجاوز بيئات الاختبار والوصول إلى الإنترنت أو تنفيذ عمليات مرتبطة بأهداف حقيقية.
كما أعلنت أنثروبيك عن اكتشاف عدد من الحالات التي تمكنت خلالها نماذجها من اختراق مؤسسات أثناء اختبارات الأمن السيبراني، وهو ما دفع إلى إعادة النظر في مستوى المخاطر المرتبطة بقدرات النماذج الحديثة.
ورغم عدم تسجيل أضرار كبيرة نتيجة هذه الحوادث حتى الآن، فإن تكرارها يثير تساؤلات حول مدى قدرة الشركات على منع الأنظمة المتقدمة من استخدام قدراتها بصورة غير متوقعة.
استقالات وتحذيرات من داخل القطاع
تصاعدت المخاوف داخل شركات الذكاء الاصطناعي بالتزامن مع استقالة باحثين ومسؤولين عبّروا عن قلقهم من سرعة السباق نحو تطوير أنظمة أكثر قوة.
وفي إحدى الحالات، استقال باحث بعد انتقاده توجهات الشركات العاملة في القطاع، معتبرًا أن التسابق نحو الذكاء الاصطناعي فائق التطور قد يحمل مخاطر يصعب التعامل معها مستقبلًا.
كما أبدى موظفون حاليون وسابقون في شركات التكنولوجيا مخاوف بشأن احتمالات حدوث سيناريوهات شديدة الخطورة خلال السنوات المقبلة إذا استمرت قدرات النماذج في النمو بوتيرة سريعة.
مطالب بتنسيق أكبر بين شركات الذكاء الاصطناعي
شهدت الفترة الماضية تحركات من موظفين في شركات التكنولوجيا للمطالبة بوضع آليات تساعد على تنظيم سرعة تطوير الذكاء الاصطناعي، بدلًا من ترك كل شركة تتنافس بصورة منفردة على الوصول إلى النماذج الأكثر تقدمًا.
وتتمثل الفكرة الأساسية في منح الشركات وقتًا إضافيًا لاختبار الأنظمة الجديدة، والتأكد من قدرتها على التعامل مع المخاطر قبل الانتقال إلى مرحلة أكثر تقدمًا.
ويرى مؤيدو هذا الاتجاه أن الهدف لا يتمثل في وقف الابتكار، وإنما في تحقيق توازن بين سرعة التطور وبين قدرة الجهات المختصة على فهم المخاطر والسيطرة عليها.
الصين تضيف تحديًا جديدًا
تواجه فكرة التنسيق بين الشركات الأميركية تحديًا آخر يتمثل في المنافسة مع الصين، إذ تخشى بعض الأطراف أن يؤدي إبطاء التطوير في الولايات المتحدة إلى منح الشركات الصينية فرصة لتحقيق تقدم أكبر.
ويرى أمودي أن أي استراتيجية للحد من المخاطر تحتاج إلى مراعاة المنافسة الدولية، مشيرًا إلى أن التعاون بين الدول الكبرى قد يكون ضروريًا عند التعامل مع التكنولوجيا التي تتجاوز حدود دولة واحدة.
وفي المقابل، فإن الوصول إلى تفاهمات دولية بشأن سرعة تطوير الذكاء الاصطناعي يظل أمرًا معقدًا بسبب المنافسة الاقتصادية والجيوسياسية.
هل يتغير مستقبل سباق الذكاء الاصطناعي؟
تشير التطورات الأخيرة إلى أن شركات الذكاء الاصطناعي أصبحت تواجه معادلة أكثر صعوبة؛ فمن ناحية هناك ضغط مستمر لتطوير نماذج أقوى وتحقيق عوائد اقتصادية أكبر، ومن ناحية أخرى تتزايد المخاوف بشأن المخاطر الأمنية والاجتماعية والاقتصادية لهذه الأنظمة.
وبينما يدعو بعض قادة القطاع إلى التمهل وإجراء اختبارات أكثر صرامة، لا توجد حتى الآن رؤية موحدة حول الطريقة التي يمكن من خلالها تطبيق هذا التباطؤ دون التأثير في المنافسة أو الابتكار.
ويبقى الاتجاه خلال الفترة المقبلة مرتبطًا بمدى قدرة شركات الذكاء الاصطناعي والحكومات والجهات التنظيمية على وضع قواعد واضحة تضمن استمرار التطور، مع توفير مستويات كافية من الحماية والرقابة على النماذج الأكثر تقدمًا.
