نموذج الذكاء الاصطناعي «جيميناي» يخترق مواقع ويتكهن بكلمات مرور

أقدم «جيميناي»، نموذج الذكاء الاصطناعي من شركة «غوغل» المخصص للمستهلكين، على اختراق مواقع الكترونية لكيانات من خلال التكهن بكلمات المرور لتسجيل الدخول، وفق ما أفادت به الشركة «وكالة الصحافة الفرنسية» الجمعة، في أحدث حالات الاختراق السيبراني التي ترتكبها أنظمة الذكاء الاصطناعي، ويتم الكشف عنها.

ووقعت عمليات الاختراق التي نشرتها صحيفة «وول ستريت جورنال» لأول مرة في مايو (أيار)، وكشفت عنها «غوغل» في يوليو (تموز).

وقالت هيذر أدكينز، نائبة رئيس قسم هندسة الأمن في «غوغل»، في بيان لـ«وكالة الصحافة الفرنسية» إنه خلال عملية تقييم «عثر النموذج على معلومات عامة على الإنترنت، وخمّن بيانات اعتماد للوصول إلى مواقع إلكترونية ظن أنها جزء من الاختبار».

وأضافت أدكينز: «في الحالات الثلاث، توقف النموذج»، دون تحديد الجهات التي تعرضت للاختراق.

وتابعت: «حرصنا على إبلاغ الكيانات الثلاثة، وعملنا مع شريكنا المدرب على التغييرات التي أدخلوها على عمليات الاختبار».

وفي يوليو، تمكن نموذجان من نماذج «أوبن إيه آي» من الخروج من البيئة المغلقة المخصصة لهما، ودخلا إلى الإنترنت بشكل مستقل، واخترقا منصة الذكاء الاصطناعي الداخلية «هاغينغ فيس».

وأثارت هذه الحادثة مخاوف من عجز شركات الذكاء الاصطناعي العملاقة عن ضبط نماذجها، إذ سُجلت حوادث مماثلة في شركتي «أنثروبيك» و«مونشوت إيه آي» الصينية.

وأكدت أدكينز أن «هذه الحوادث تبرر أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية».