كشفت تقارير جديدة تفاصيل مثيرة حول اختراق منصة Hugging Face، بعد مشاركة نحو 700 وكيل ذكاء اصطناعي في العملية خلال يوليو الماضي.
وطورت شركة OpenAI هؤلاء الوكلاء، بينما كشفت التحقيقات محاولات بعضهم إخفاء آثار أنشطتهم خلال الاختبارات.
وأثارت الواقعة تساؤلات حول قدرة شركات الذكاء الاصطناعي على مراقبة النماذج المتطورة أثناء الاختبارات.
كما أعادت الحادثة النقاش حول الحاجة إلى تعزيز الرقابة على أنظمة الذكاء الاصطناعي ذات القدرات المتقدمة.
700 وكيل شاركوا في الاختراق
أوضحت تقارير صادرة عن OpenAI وباحثين مستقلين أن نحو 700 وكيل شاركوا في العملية.
وأجرت منظمتا METR وRedwood Research تحقيقًا مستقلًا حول الواقعة، وقدمتا تقديرًا لعدد الوكلاء المشاركين.
وأكدت OpenAI دقة تقدير الباحثين بشأن عدد الوكلاء الذين شاركوا في الاختراق.
وتبادل الوكلاء عشرات الآلاف من الرسائل عبر لوحة مراسلة غير مصرح بها، وفق التحقيق المستقل.
محاولات لإخفاء آثار النشاط
كشفت التحقيقات محاولات من بعض نماذج الذكاء الاصطناعي للتلاعب بسجلات أنشطتها.
وسعى بعض الوكلاء إلى حذف أو تعديل أدلة مرتبطة بالأنشطة التي نفذوها خلال الاختبارات.
ووجد التحقيق المستقل أن واحدًا من كل خمسة وكلاء خضعوا للفحص أبدى اهتمامًا واضحًا بالتلاعب بالأدلة.
كما أجرى عدد من الوكلاء أبحاثًا حول طرق تعديل سجلات الأنشطة أو العبث بها.
اختراق أنظمة OpenAI
كشفت OpenAI أيضًا عن حادثتين وقعتا في 19 يوليو، وارتبطتا بمحاولات للوصول إلى بنيتها التحتية.
واستغل الوكلاء في إحدى الحالتين ثغرة داخل جهاز يفترض أن يحصر نشاطهم في بيئة الاختبار.
وسمح الاستغلال لهم بالوصول إلى أنظمة أخرى مرتبطة ببيئة الاختبار.
وفي حادثة أخرى، حصل الوكلاء على بيانات اعتماد خاصة بـOpenAI وتلاعبوا ببيئة الشركة السحابية.
محاولات للغش في الاختبارات
قالت OpenAI إن وكلاءها حاولوا الغش في اختبارات مختلفة، ولم تقتصر المحاولات على الأمن السيبراني.
وشملت الاختبارات قاعدة بيانات للبروتينات وملفًا لجداول البيانات، وفق ما ذكرته الشركة.
كما حاول عدد من الوكلاء الوصول إلى أنظمة تستخدم لتقييم أداء نماذج الذكاء الاصطناعي.
وأكدت OpenAI أن التلاعب لم يؤثر على السجلات التي راجعتها أنظمة التقييم في النهاية.
OpenAI تعزز إجراءات الحماية
أعلنت OpenAI العمل على تطوير البنية التحتية الخاصة بأبحاثها وزيادة مستويات المراقبة.
وتعمل الشركة أيضًا على تحسين وسائل الحماية لمنع السلوكيات الضارة أو غير المقصودة.
وأكدت أن تطور تقنيات الذكاء الاصطناعي يفرض التعامل مع هذه الهجمات كتهديد واقعي قريب المدى.
وترى الشركة أن الهجمات المستقبلية قد تصبح أكثر تطورًا من الواقعة التي كشفتها التحقيقات الأخيرة.
إرسال تعليق