El equipo de LoiZéro describe una IA que combina un generador de hipótesis con un evaluador diseñado para examinarlas sin favorecer sus consecuencias. El objetivo es desarrollar la inteligencia del sistema limitando su capacidad de actuar y perseguir objetivos propios.
Los autores presentan un programa de investigación en curso, cuyos componentes se evaluarían progresivamente. La ausencia de deseos u objetivos propios es un propósito de diseño; el texto no demuestra una garantía general de seguridad.
¿Por qué afecta a nuestra investigación?
Esta propuesta ayuda a separar tres dimensiones que a menudo se confunden: comprender, querer alcanzar un resultado y tener capacidad para actuar. Las decisiones arquitectónicas influyen, por tanto, en las formas de supervisión y responsabilidad que deben organizarse.