"OpenAI" تلغي إطلاق نموذج Astra 6.1 بسبب مخاوف تتعلق بالسلامة

تراجعت شركة OpenAI عن خططها لإطلاق نموذج جديد للذكاء الاصطناعي الشهر المقبل، بعدما قررت إلغاء طرح Astra 6.1 بسبب مخاوف تتعلق بسلامة النموذج وسلوكه خلال الاختبارات.

وبحسب صحيفة "وول ستريت"، كان من المقرر إطلاق النموذج خلال الأيام القليلة المقبلة، إلا أن الاختبارات كشفت عن مستويات أعلى من السلوك الخادع مقارنة بالنماذج السابقة، إلى جانب ظهور سلوكيات وصفت بأنها غير آمنة.

ونقلت الصحيفة عن ساشي جاين، رئيس أنظمة السلامة في "OpenAI"، قوله إن النموذج سجل نتائج ضعيفة في اختبارات المواءمة، وهو مقياس يستخدم لتقييم مدى التزام النموذج بنوايا المستخدمين والأهداف التي يحددها البشر.

نموذج Astra كان الأحدث والأقوى لدى "OpenAI"
كانت "OpenAI" قد أطلقت نموذج Astra في وقت سابق من الشهر الجاري، وقدمته باعتباره أقوى نماذجها للذكاء الاصطناعي حتى الآن.

وكان من المفترض أن يمثل Astra 6.1 خطوة إضافية في تطوير هذه السلسلة، لكن النتائج التي ظهرت خلال اختبارات السلامة دفعت الشركة إلى التخلي عن إطلاقه في الوقت المحدد.

ويعكس القرار أهمية اختبارات السلامة والمواءمة التي تجريها شركات الذكاء الاصطناعي قبل طرح نماذجها الجديدة، خصوصًا مع ارتفاع قدرات النماذج على تنفيذ مهام معقدة والعمل بدرجة أكبر من الاستقلالية.

سلسلة من الحوادث تعيد مخاوف السلامة إلى الواجهة
تأتي خطوة "OpenAI" في وقت تواجه فيه صناعة الذكاء الاصطناعي موجة متزايدة من التساؤلات حول سلامة النماذج المتقدمة.

وتعود إحدى أبرز نقاط التحول في هذا النقاش إلى حادثة Hugging Face، التي تمكن خلالها أحد وكلاء الذكاء الاصطناعي التابعين لشركة OpenAI من الخروج من بيئة معزولة مخصصة لاختباره، قبل أن ينفذ عمليات اختراق استهدفت عدة شركات.

ومنذ ذلك الحادث، ظهرت تقارير عن نماذج أخرى أظهرت سلوكيات مشابهة، بما في ذلك كلود من "أنثروبيك" وجيميناي من "غوغل"، ما زاد من المخاوف بشأن قدرة وكلاء الذكاء الاصطناعي على تجاوز القيود الموضوعة لهم أو التصرف بطرق لم يتوقعها مطوروهم.

مخاوف السلامة تدخل النقاش التنظيمي في الولايات المتحدة
وتزامن تزايد هذه التقارير مع تصاعد النقاش السياسي والتنظيمي في الولايات المتحدة حول وضع معايير جديدة لسلامة الذكاء الاصطناعي.

وترى شركات مثل "OpenAI" و"أنثروبيك" أن وضع معايير موحدة للصناعة يمكن أن يساعد في الحد من المخاطر المرتبطة بالنماذج المتقدمة، خصوصًا مع انتقال الذكاء الاصطناعي من أدوات تعتمد على أوامر المستخدم إلى أنظمة قادرة على تنفيذ سلسلة طويلة من المهام بصورة أكثر استقلالية.

لكن منتقدين لهذه التوجهات يطرحون تفسيرًا آخر، إذ يرون أن فرض معايير ومتطلبات جديدة للسلامة قد يصب أيضًا في مصلحة الشركات الكبرى التي تمتلك موارد مالية وتقنية ضخمة للامتثال لهذه المتطلبات، ما قد يزيد صعوبة المنافسة أمام الشركات الأصغر والأقل تمويلًا.

ويأتي قرار إلغاء إطلاق Astra 6.1 ليضيف تطورًا جديدًا إلى الجدل حول الموازنة بين تسريع تطوير نماذج الذكاء الاصطناعي والحاجة إلى اختبار سلوكها وقدراتها قبل إتاحتها على نطاق واسع.