L’équipe de LoiZéro décrit une IA associant un générateur d’hypothèses à un estimateur conçu pour évaluer celles-ci sans préférence pour leurs conséquences. L’objectif est de développer l’intelligence du système tout en limitant sa capacité d’action et sa poursuite de buts propres.
Les auteurs présentent un programme de recherche en cours, avec des composants à évaluer progressivement. L’absence de désirs ou d’objectifs propres est un objectif de conception ; ce texte ne démontre pas une garantie générale de sûreté.
Pourquoi cela concerne nos recherches ?
Cette proposition aide à séparer trois dimensions souvent confondues : comprendre, vouloir obtenir un résultat et pouvoir agir. Les choix d’architecture influencent ainsi les formes de supervision et de responsabilité à organiser.