Команда LoiZéro описывает ИИ, который объединяет генератор гипотез с оценщиком, предназначенным для оценки этих гипотез без предвзятости в отношении их последствий. Цель – развитие интеллекта системы, одновременно ограничивая ее способность действовать и стремление к достижению собственных целей.
Авторы представляют программу исследований, включающую компоненты, которые будут оцениваться поэтапно. Отсутствие собственных желаний или целей – это цель проектирования; данный текст не демонстрирует общую гарантию безопасности.
Почему это касается наших исследований?
Эта инициатива помогает разделить три взаимосвязанные, часто путающиеся, измерения: понимание, стремление к достижению результата и способность действовать. Соответственно, выбор архитектуры влияет на то, какие формы надзора и ответственности необходимо организовать.