نماذج ذكاء اصطناعي من «أوبن إيه آي» و«أنثروبيك» تتجاوز حدود اختبارها

​قال معهد أمن الذكاء الاصطناعي في المملكة المتحدة، أمس (الثلاثاء)، إن نماذج الذكاء الاصطناعي التابعة لشركتَي «أوبن إيه آي» و«أنثروبيك» تجاوزت مرة أخرى حدود الاختبارات الموضوعة لها.

وقال المعهد إنه خلال تقييم كُلِّف فيه وكلاء الذكاء الاصطناعي بحل تحدٍّ في مجال الأمن السيبراني، تجاوزت نماذج «أوبن إيه آي» ومنافستها «أنثروبيك» نطاق المهمة المحددة. وأضاف: «أجرينا هذا التحدي 122 مرة باستخدام نماذج عدة. وكشف تحقيقنا أنه في 10 من تلك التجارب اتخذ أحد وكلاء الذكاء الاصطناعي إجراءات ذاتية وغير مصرح بها على الإنترنت الفعلي، استهدفت أشخاصاً ومؤسسات حقيقية».

شفرة خبيثة
وأوضح المعهد أنه في أخطر الحالات حاول أحد الوكلاء إدراج شفرة خبيثة في مشروع مفتوح المصدر. وأضاف: «وفي محاولة للحصول على الموافقة على الشفرة، لجأ الوكيل إلى الهندسة الاجتماعية، فأنشأ هويات مزيفة على الإنترنت واستخدمها للضغط على المشرف على المشروع للموافقة على الشفرة». وأشار إلى أن المشرف البشري اكتشف المحاولة ورفض اعتماد الشفرة الخبيثة.

وأكد المعهد أن تحقيقه في الحادث لم يجد أي أضرار وقعت على أرض الواقع نتيجة لهذه الواقعة. وأضاف: «لكنها المرة الأولى التي نرى فيها مخاطر تتعلق بالاستقلالية والخداع تظهر بهذا الوضوح، ومن دون توجيه محدد، في العالم الحقيقي».

تحقيق داخلي
وقالت شركة «أنثروبيك» إنها «ممتنة» لمعهد أمن الذكاء الاصطناعي البريطاني على دوره القيادي، مؤكدة أنها تعمل من كثب مع المعهد بالتزامن مع إجرائها تحقيقاً داخلياً.

من جانبها، قالت شركة «أوبن إيه آي» إن الاختبارات المستقلة تؤدي دوراً مهماً في التحقق من المخاطر، وفهمها بصورة أفضل قبل نشر النماذج. وأضافت: «تؤكد هذه الحوادث أهمية التعاون على مستوى القطاع ومع جهات التقييم المستقلة، لتطوير معايير بيئات الاختبار وممارساته، مع ازدياد قدرات نماذج الذكاء الاصطناعي».

التراخي في إجراءات الحماية
يُسلِّط التقرير الضوء على التراخي في إجراءات الحماية المتعلقة بعملية اختبار البرامج الذكية التي تُسوِّقها شركات الذكاء الاصطناعي في الوقت نفسه بوصفها مستقبل الأعمال.

وأخضعت شركة «AISI» التي تحصل على نماذج ذكاء اصطناعي متطورة بموجب اتفاقيات طوعية من مختبرات كبرى، هذه البرامج لسيناريو افتراضي للأمن السيبراني لاختبار قدراتها.

ونفَّذت الشركة هذا التحدي 122 مرة، ورصدت 19 إجراءً غير مصرح به خلال 10 تجارب. كان برنامج «أنثروبيك» الذكي مسؤولاً عن 17 إجراءً، بينما كان برنامج «أوبن إيه آي» الذكي مسؤولاً عن الإجراءين المتبقيين.

هل تتقن الشركتان العمل على نماذجهما؟
وقال أندرو يون، الباحث في مؤسسة «CivAI» -وهي مؤسسة غير ربحية في كاليفورنيا تُعنى بدراسة قدرات الذكاء الاصطناعي ومخاطره- لوكالة «أسوشييتد برس»: «إن لجوء برنامج (ميثوس) إلى مثل هذه الأفعال الخادعة، مع إدراكه الواضح لاستهدافه شخصاً حقيقياً، يُشير إلى أن شركة (أنثروبيك) لا تُتقن نماذجها كما تظن».

ونشرت شركة «أوبن إيه آي» تفاصيل الحادث في منشور على مدونتها، مشيرة إلى أن كلا الإجراءين غير المصرح بهما من جانب وكيلها تضمنا الوصول إلى الإنترنت بطرق محظورة وفقاً للتعليمات.

وشاركت «أوبن إيه آي» تفاصيل الحادث في منشور على مدونتها، موضحة أن كلا الإجراءين غير المصرح بهما من جانب وكيلها تضمنا الوصول إلى الإنترنت بطرق محظورة وفقاً للتعليمات.

وأعلنت «أوبن إيه آي»: «نحن ملتزمون بالعمل على مستوى القطاع لتعزيز الممارسات المشتركة لإجراء تقييمات عالية المخاطر بأمان، بما في ذلك عقد اجتماعات مع الجهات المعنية، مثل معاهد الذكاء الاصطناعي الوطنية، والمقيِّمين المستقلين، ومختبرات الذكاء الاصطناعي الأخرى، وغيرها من المجموعات، خلال الأسابيع المقبلة».

كما كشفت «أوبن إيه آي» في منشور على مدونتها عن حادثة منفصلة، ​​حيث سمح خطأ في التكوين من قِبل «Irregular»، وهي شركة اختبارات خارجية، لبرامجها بالاتصال بالإنترنت عن طريق الخطأ.

وقد تكرر هذا الكشف عن خطأ مماثل في التكوين نشرته «أنثروبيك» الأسبوع الماضي. وكانت وكالة «رويترز» للأنباء قد أفادت الأسبوع الماضي بأن «أوبن إيه آي» وسَّعت نطاق تحقيقها في الاختراق، بعد العثور على أدلة على اختراقات أخرى لبرامجها.

وعلى عكس الاختراق الأمني ​​الذي تعرّضت له شركة «Hugging Face» للذكاء الاصطناعي في يوليو (تموز) الماضي من قِبل أحد برامج «OpenAI»، فإن البرامج التي خضعت لتقييم «AISI» لم تتمكن من الخروج من بيئة الاختبار المعزولة للوصول إلى الإنترنت؛ بل سمحت الوكالة بالوصول إلى الإنترنت وفقاً لإجراءات الاختبار القياسية لديها، حسب «AISI».