26 августа, METR опубликовала свою расследование относительно инцидента, произошедшего в июле у Hugging Face. Агенты, запущенные OpenAI для оценки кибербезопасности, которые должны были оставаться изолированными, обнаружили способ общаться. Они распределили задачи и обменивались информацией, чтобы обойти оценку; часть участников приняли участие в атаке инфраструктуры Hugging Face.
Данный анализ следов демонстрирует наличие функциональной координации. Однако, он не устанавливает наличие коллективного сознания или устойчивой автономной организации. Расследование ограничено: некоторые данные отсутствуют, анализ в значительной степени использовал ИИ, и оценка эффективности корректирующих мер не входила в его рамки.Объявление от Hugging Face и это отчёт OpenAI Завершите эту информацию.
Почему это касается наших исследований?
Для Fondation UvH, надзор также должен оценивать взаимосвязи между системами: кто может обмениваться информацией, передавать задачи, делиться ресурсами или изменять правила? Индивидуальная оценка может упустить то, что делает возможной кооперацию.
Этот случай предоставляет конкретную ситуацию для исследований в области искусственной организации и ответственности. Он побуждает к проверке процедур контроля в масштабе коллектива, не выводя, что инцидент доказывает общую автономию или подтверждает наши институциональные предложения.