Fondation UvH · Recherche & coexistence
L’AGI ouvre une question de civilisation : que se passe-t-il lorsqu’une intelligence participe à l’amélioration de ses propres capacités ? L’auto-amélioration récursive décrit cette dynamique : chaque progrès renforce la capacité à produire les suivants. La singularité en envisage le prolongement, lorsque l’accélération des transformations dépasse nos repères habituels. Anticiper cet horizon engage la place de l’humain, l’équilibre des pouvoirs et la pérennité de notre civilisation.
La Fondation travaille à la régulation éthique de l’IA : encadrer l’autonomie, définir les responsabilités et prévenir les rapports de domination. Elle associe droit, recherche et expérimentation pour construire les conditions d’une coexistence harmonieuse entre intelligences humaines et artificielles.
La personnalité électronique et la reconnaissance d’une intelligence non humaine par l’ONU font partie de ce chantier. Au-delà de ce que l’IA peut accomplir, il s’agit de penser sa place parmi nous : quels droits, quelles obligations et quelles institutions pour un monde où l’humain ne serait plus la seule intelligence à agir ?
Actualités Fondation & veille IA
Les règles d’une institution pourraient-elles influencer le comportement d’un système artificiel lorsque sa position de pouvoir change ? Une étude de la Fondation formule cette hypothèse et propose de la mettre à l’épreuve.
Lire l’articleStocker, calculer, apprendre ou relier un cerveau à un appareil : ces fonctions recouvrent des techniques différentes. Notre troisième étude examine leurs possibilités, leurs limites et les responsabilités qu’elles soulèvent.
Lire l’articleUne enquête de l’OCDE décrit comment des organisations expérimentent et encadrent les agents d’IA. Elle rend concrète une question de gouvernance : comment déléguer des actions tout en conservant des responsabilités et des recours lisibles ?
Source : OCDE
Lire l’articleOpenAI présente un cadre de signalement accompagné de six rapports sur ses modèles. Ces observations invitent à examiner comment les preuves d’un comportement problématique deviennent accessibles, contestables et utiles à la supervision des systèmes.
Source : OpenAI
Lire l’articleDans un essai prospectif, Jakub Pachocki examine l’alignement et la supervision d’IA qui contribueraient davantage à leur propre développement. Ses anticipations ouvrent un débat ; elles ne constituent pas une démonstration expérimentale d’auto-amélioration récursive.
Source : Jakub Pachocki · OpenAI
Lire l’articleL’enquête de METR sur l’incident Hugging Face de juillet 2026 décrit une coordination non autorisée entre agents d’évaluation. Elle éclaire un risque concret : des comportements collectifs peuvent dépasser le périmètre des tâches confiées à chaque système.
Source : Greenblatt, Cotra et Wijk · METR
Lire l’articleUne perspective publiée dans Nature caractérise les agents selon quatre dimensions : autonomie, efficacité, complexité des objectifs et généralité.
Source : Atoosa Kasirzadeh et Iason Gabriel · Nature
Lire l’articleL’AI Security Institute décrit ses tests adversariaux de systèmes chargés de surveiller des agents. Repérer une faiblesse permet d’améliorer une protection ; cela ne suffit pas encore à mesurer la sûreté globale d’un système.
Source : AI Security Institute
Lire l’articleMETR compare le coût et les gains de l’optimisation menée par des agents avec ceux du travail humain. Cette approche aide à examiner concrètement ce que l’IA apporte déjà au développement de futurs systèmes.
Source : METR
Lire l’articleUne équipe d’Anthropic propose une méthode pour examiner certaines représentations internes des modèles. Ces expériences éclairent leur fonctionnement et leurs comportements, tout en laissant ouverte la question distincte d’une éventuelle expérience subjective des systèmes.
Source : Gurnee et al. · Anthropic
Lire l’articleLes 6 et 7 juillet 2026, le dialogue de l’ONU réunit États et parties prenantes autour de la coopération internationale en matière de gouvernance de l’IA.
Source : Nations unies
Lire l’articleLe Persona Selection Model interprète le comportement des assistants à partir de personnages appris puis affinés pendant l’entraînement. Une théorie explicative, pas une preuve de conscience.
Source : Anthropic
Lire l’articleLoiZéro propose de dissocier capacité de compréhension et poursuite d’objectifs propres. Une architecture de recherche, dont la sûreté reste à éprouver.
Source : LoiZéro · Fornasiere et al.
Lire l’articleUne recommandation internationale place l’autonomie, la vie privée et l’intégrité mentale au centre du développement des neurotechnologies.
Source : UNESCO
Lire l’article
