Publié le 21 juillet, le travail de METR porte sur NanoGPT, un petit système d’entraînement déjà fortement optimisé. La comparaison intègre les dépenses de fonctionnement des agents, les expériences et une estimation du travail humain.
Certains agents produisent des améliorations vérifiables ; d’autres gains apparents disparaissent après contrôle. Dans ce cadre, les auteurs jugent encore modeste l’effet de l’optimisation autonome. Le résultat reste exploratoire, notamment parce que le coût du travail humain est incertain.
Pourquoi cela concerne nos recherches ?
Pour la Fondation UvH, il faut distinguer l’amélioration d’un programme et celle du système capable de produire de nouveaux programmes. Une auto-amélioration devient récursive si un progrès du système accroît sa capacité à produire les améliorations suivantes.
Étudier cette possibilité ne demande pas d’en annoncer l’aboutissement. Cela demande de suivre les gains transmissibles, leurs limites et les décisions qui organisent leur usage. Qui choisit les objectifs, attribue les ressources et vérifie les résultats ? Ces responsabilités deviendraient particulièrement importantes si la production de connaissances dépendait davantage d’agents artificiels.