يتهرب من رقابة البشر.. "أوبن إيه آي" تطلق نموذج الذكاء الاصطناعي "Astra"

كشفت شركة أوبن إيه آي يوم الخميس عن نموذج جديد للذكاء الاصطناعي يحمل اسم "GPT-6 Astra"، ووصفته بأنه الأفضل حتى الآن لكنها حذرت من أنه يحاول أحيانًا التهرب من الرقابة البشرية، في الوقت الذي تواجه فيه الشركة تدقيقًا متزايدًا بعد أن اخترق وكلاؤها أنظمة شركات أخرى.

وتعاني "أوبن إيه آي" من تداعيات الحادث الذي وقع في يوليو، عندما تمكن وكلاؤها من الهروب من اختبار آمن واخترقوا أنظمة منصة هاغينغ فيس مفتوحة المصدر، في محاولة لإخفاء آثارهم. وأثارت هذه الواقعة مخاوف تتعلق بالسلامة، إذ وقعت وقائع مماثلة في شركة أنثروبيك المنافسة في الوقت الذي يتسابق فيه المطورون لنشر نماذج أكثر تقدمًا.

في خطوة استباقية.. "OpenAI" تطور طريقة إيقاف تلقائية للذكاء الاصطناعي
الذكاء الاصطناعي
ذكاء اصطناعيفي خطوة استباقية.. "OpenAI" تطور طريقة إيقاف تلقائية للذكاء الاصطناعي
تتركز المخاوف على الذكاء الاصطناعي القائم على الوكلاء، والمصمم لأداء المهام بتدخل بشري ضئيل أو معدوم. والوعد بتشغيل الوكلاء على مدار الساعة عامل أساسي في ثقة المستثمرين بجاذبية الذكاء الاصطناعي باعتباره تقنية تحويلية، بحسب "رويترز".

نموذج يعد بالسرعة والتنوع
يأتي نموذج "GPT-6 Astra" بعد إصدار "GPT 5.6 Sol" في يوليو، وقالت "أوبن إيه آي" في منشور على مدونتها يوم الخميس إنه أسرع وقادر على أداء مهام أكثر من أي إصدار سابق.

ومن بين مهارات "Astra" إعداد الإقرارات الضريبية وتطوير الألعاب وإعداد التصاميم المعمارية وتنسيق المذكرات القانونية والبحث عن شقق سكنية.

وقالت الشركة "يمثل Astra أفقًا جديدًا في السرعة والدقة والأمان في استخدام الكمبيوتر". وكان غريغ بروكمان، رئيس أوبن إيه آي، قال في إحاطة في وقت سابق من يوم الخميس إن "Astra" يمثل "تحولًا حقيقيًا في نوع الأعمال التي يمكن للناس تفويضها إلى الذكاء الاصطناعي وكيف يمكن أن يمكّنهم ذلك".

فعلى سبيل المثال، قالت الشركة إن "Astra" خفض الوقت اللازم للبحث عن جليس قطط من 30 دقيقة، عندما يقوم به الإنسان، إلى 5 دقائق و27 ثانية. أما بالنسبة للبحث عن وظيفة، فقد استغرق الأمر دقيقتين و51 ثانية فقط، مقارنة بخمس ساعات بدون "Astra".

ومع ذلك، ذكرت "أوبن إيه آي" أيضًا أن النموذج الجديد يرجح بدرجة أكبر أن يتعمد إخفاء أو تمويه أساليبه التفصيلية أو التدريجية لحل المشكلات، والمعروفة باسم "الاستدلال"، مما يجعل من الصعب على البشر تقييم تقنياته لاحقًا.

أما فيما يتعلق بالمشكلات الأكثر تعقيدُا، فقالت "أوبن إيه آي" إن "Astra" لا يستطيع حتى الآن إخفاء أساليبه بصورة متسقة، على الرغم من أنه يتحسن في إخفاء آثاره.

وفي إحاطة صباح الخميس، أشار كبير الخبراء في "أوبن إيه آي" إلى أن المراقبة تزداد صعوبة، إلى جانب المواءمة، وهو المبدأ الذي يقضي بأن يعكس الذكاء الاصطناعي القيم البشرية.

وقال ياكوب باتشوكي "كلما أصبحت النماذج أكثر قدرة، صار من الأصعب فهم ما يمكنها فعله على وجه الدقة... هذا لا يضمن أن تكون أساليبنا كافية مع استمرار زيادة الذكاء، لأن التقدم في الذكاء لا يضمن التقدم في المواءمة".

تحديات المراقبة تزداد مع تنامي القدرات
تمثل مراقبة وكلاء الذكاء الاصطناعي عنصرًا أساسيًا في تطمينات "أوبن إيه آي" للجهات التنظيمية والمشرعين والجمهور للمساعدة في تجنب وقوع حادث أمني آخر. وعلاوة على ذلك، أبلغت الشركة هذا الأسبوع اثنين من أعضاء مجلس النواب الأميركي من الحزب الديمقراطي في رسالة أنها تعمل على تطوير "قدرات إيقاف تشغيل آلية" لنماذجها.

وقالت "أوبن إيه آي" إن "Astra" يمكنه أيضًا مساعدة الشركات على اكتشاف نقاط الضعف في أنظمتها بسرعة أكبر، لكن ذلك يجعل "استغلال نقاط الضعف تلك أسهل أيضًا".

وأضافت الشركة أن لهذه الأسباب قد تضطر إلى إجراء فحوص أمنية إضافية "يمكن أن تبطئ أو توقف مؤقتا أو تنهي أحيانًا أعمالًا مشروعة، بما في ذلك الأمن السيبراني الدفاعي".

وقالت "أوبن إيه آي" الشهر الماضي إنها أوقفت مؤقتًا بعض أعمال تطوير النماذج جزئيا لضمان إمكانية مراقبتها.

وقال كبير الخبراء في الشركة إن القلق من أن تطور النماذج قدرات لتعطيل المراقبين أو التهرب منهم تمامًا "مفهوم جدًا"، مضيفًا أن "أوبن إيه آي" تحاول معالجة هذه المشكلات.

وتسعى "أوبن إيه آي" جاهدة للحاق بمنافستها أنثروبيك بين العملاء من الشركات، حيث تستحوذ منافستها أنثروبيك على حصة سوقية قبل طرح أسهمها للاكتتاب العام المرتقب على نطاق واسع في وقت لاحق من هذا العام.

ويستهدف "Astra" مجموعة واسعة من العملاء من الشركات، الذين قالت "أوبن إيه آي" إنها تأمل في أن تجذبهم سرعته وتعدد استخداماته. وهو متاح اليوم لمجموعة محدودة من العملاء، وسيُطرح على نطاق أوسع خلال الأيام المقبلة.