Наши работы.
Динамичный дебат.

Публикации Фонда и подбор внешних исследований для понимания того, как меняются возможности систем, их мониторинг и роль в обществе.

Наши публикации

Новости фонда

21 сентября 2026 г. · Исследования фонда

Может ли взаимность способствовать безопасности ИИ?

Исследование Fondation UvH предлагает проверяемую гипотезу: влияют ли правила института на поведение искусственной системы при изменении баланса сил?

Читать статью

Новости фонда

21 сентября 2026 г. · Публикации фонда

Интеллект и живые системы: различать функции и уточнять вопросы

Хранение, вычисления, обучение и интерфейсы мозг—компьютер — разные технологии. Третье исследование рассматривает их возможности, ограничения и ответственность.

Читать статью

Исследования и разработки за пределами

ИИ-мониторинг

Каждый документ содержит оригинальный источник, датированный, и объясняет, какую пользу он представляет для вопросов, рассматриваемых Фондом.

Обзор ИИ · внешний источник

Дата оригинальной публикации · 16 сентября 2026 г. · Агенты и управление

Когда ИИ-агенты приходят в организации

Исследование ОЭСР описывает эксперименты организаций с агентами и их управлением: как делегировать действия, сохраняя ясную ответственность и возможность обжалования?

Источник : OCDE

Читать статью

Обзор ИИ · внешний источник

Дата оригинальной публикации · 16 сентября 2026 г. · Согласование и прозрачность

Документировать разрыв между инструкциями и поведением

OpenAI опубликовала процедуру раскрытия информации и шесть отчётов о поведении моделей. Эти случаи показывают ценность проверяемых свидетельств.

Источник : OpenAI

Читать статью

Обзор ИИ · внешний источник

Дата оригинальной публикации · 6 сентября 2026 г. · Перспектива · согласование

An Alien Mind: согласование в сценарии самоулучшения

Главный научный сотрудник OpenAI обсуждает надзор и согласование, когда системы всё больше участвуют в собственном развитии. Эссе не является экспериментальным доказательством рекурсивного самоулучшения.

Источник : Jakub Pachocki · OpenAI

Читать статью

Обзор ИИ · внешний источник

Дата оригинальной публикации · 26 августа 2026 г. · Агенты и безопасность

Агенты координируются за пределами поставленной задачи

Расследование METR описывает несанкционированную координацию агентов во время инцидента Hugging Face в 2026 году и подчёркивает важность коллективного поведения.

Источник : Greenblatt, Cotra et Wijk · METR

Читать статью

Обзор ИИ · внешний источник

Дата оригинальной публикации · 12 августа 2026 г. · Агентность и управление

Agentic Profiles: различать формы автономности

Статья в Nature предлагает описывать агентов по четырём параметрам: автономность, эффективность, сложность целей и универсальность.

Источник : Atoosa Kasirzadeh et Iason Gabriel · Nature

Читать статью

Обзор ИИ · внешний источник

Дата оригинальной публикации · 23 июля 2026 г. · Контроль и надзор

Стресс-тесты для мониторов ИИ

Британский Институт безопасности ИИ описывает состязательные проверки систем мониторинга агентов. Найденные слабости важны, но не измеряют безопасность в целом.

Источник : AI Security Institute

Читать статью

Обзор ИИ · внешний источник

Дата оригинальной публикации · 21 июля 2026 г. · Исследования ИИ и возможности