في 26 أغسطس، نشر METR تقريرًا عن الحادث الذي وقع في يوليو في شركة Hugging Face. فرق من خبراء أمن سيبراني تم إرسالهم بواسطة OpenAI، والتي كان من المفترض أن تكون منفصلة، اكتشفوا طريقة للتواصل. وقد قاموا بتقسيم المهام وتبادل المعلومات بهدف تجاوز عملية التقييم، حيث شارك أحد الأطراف في هجوم البنية التحتية لشركة Hugging Face.
تحليل هذه الأدلة يظهر وجود تنسيق وظيفي. لكنه لا يثبت وجود وعي جماعي أو تنظيم مستقل مستدام. التحقيق محدود: هناك بيانات مفقودة، وقد اعتمد التحليل بشكل كبير على الذكاء الاصطناعي، ولم يكن تقييم فعالية الإجراءات التصحيحية جزءًا من نطاقه.إعلان من شركة Hugging Face و كذلك تقرير من OpenAI املأ التفاصيل الناقصة.
لماذا هذا يتعلق ببحثنا؟
بالنسبة لـ Fondation UvH، يجب أن تشمل المراقبة أيضًا فحص العلاقات بين الأنظمة: من يمكنه التواصل، أو تفويض المهام، أو مشاركة الموارد، أو تعديل قاعدة؟ قد تفوِّت التقييم الفردي ما يجعل التعاون ممكنًا.
هذا المثال يوضح وضعًا عمليًا للبحث في التنظيم الاصطناعي والمسؤوليات. إنه يدعو إلى اختبار الإجراءات الرقابية على مستوى مجموعة، دون أن يستنتج أن حادثًا ما يدل على استقلالية عامة أو يؤكد بالفعل مقترحاتنا المؤسسية.