От ИИ к AGI.

Модель, связанная с инструментами, может создавать программу, запускать тесты и пересматривать свою работу. Экспериментальные инструменты позволяют автоматизировать некоторые этапы исследования. Эти достижения реальны, но их надежность все еще зависит от задач, используемых средств и качества проверки.

Если системы будут все больше участвовать в проектировании своих преемников, разрыв в их возможностях может развиваться быстрее, чем наши институты. Общий самосовершенствование и сингулярность остаются гипотезами. Однако, организация делегирования, ответственности и сотрудничества уже необходима.

La компания Fondation UvH разрабатывает анализы и предложения относительно электронной личности, институциональной взаимности и границ между интеллектом и жизнью. Наш подход предполагает сопоставление безопасности систем с условиями сосуществования без доминирования.