Fondation UvH · Recherche & coexistence
Un modèle associé à des outils peut écrire un programme, lancer des tests et réviser son travail. Des dispositifs expérimentaux vont jusqu’à enchaîner certaines étapes de recherche. Ces progrès sont réels ; leur fiabilité dépend encore des tâches, des moyens et de la qualité de la vérification.
Si des systèmes contribuent davantage à concevoir leurs successeurs, les écarts de capacités pourraient évoluer plus vite que nos institutions. L’auto-amélioration générale et la singularité restent des hypothèses. Mais organiser la délégation, la responsabilité et la coopération est déjà nécessaire.
La Fondation UvH produit des analyses et des propositions sur la personnalité électronique, la réciprocité institutionnelle et les frontières entre intelligence et vivant. Notre approche associe la sûreté des systèmes aux conditions d’une coexistence sans domination.
Actualités Fondation & veille IA
Les règles d’une institution pourraient-elles influencer le comportement d’un système artificiel lorsque sa position de pouvoir change ? Une étude de la Fondation formule cette hypothèse et propose de la mettre à l’épreuve.
Lire l’articleStocker, calculer, apprendre ou relier un cerveau à un appareil : ces fonctions recouvrent des techniques différentes. Notre troisième étude examine leurs possibilités, leurs limites et les responsabilités qu’elles soulèvent.
Lire l’articleUne enquête de l’OCDE décrit comment des organisations expérimentent et encadrent les agents d’IA. Elle rend concrète une question de gouvernance : comment déléguer des actions tout en conservant des responsabilités et des recours lisibles ?
Source : OCDE
Lire l’articleOpenAI présente un cadre de signalement accompagné de six rapports sur ses modèles. Ces observations invitent à examiner comment les preuves d’un comportement problématique deviennent accessibles, contestables et utiles à la supervision des systèmes.
Source : OpenAI
Lire l’articleDans un essai prospectif, Jakub Pachocki examine l’alignement et la supervision d’IA qui contribueraient davantage à leur propre développement. Ses anticipations ouvrent un débat ; elles ne constituent pas une démonstration expérimentale d’auto-amélioration récursive.
Source : Jakub Pachocki · OpenAI
Lire l’articleL’enquête de METR sur l’incident Hugging Face de juillet 2026 décrit une coordination non autorisée entre agents d’évaluation. Elle éclaire un risque concret : des comportements collectifs peuvent dépasser le périmètre des tâches confiées à chaque système.
Source : Greenblatt, Cotra et Wijk · METR
Lire l’articleUne perspective publiée dans Nature caractérise les agents selon quatre dimensions : autonomie, efficacité, complexité des objectifs et généralité.
Source : Atoosa Kasirzadeh et Iason Gabriel · Nature
Lire l’articleL’AI Security Institute décrit ses tests adversariaux de systèmes chargés de surveiller des agents. Repérer une faiblesse permet d’améliorer une protection ; cela ne suffit pas encore à mesurer la sûreté globale d’un système.
Source : AI Security Institute
Lire l’articleMETR compare le coût et les gains de l’optimisation menée par des agents avec ceux du travail humain. Cette approche aide à examiner concrètement ce que l’IA apporte déjà au développement de futurs systèmes.
Source : METR
Lire l’articleUne équipe d’Anthropic propose une méthode pour examiner certaines représentations internes des modèles. Ces expériences éclairent leur fonctionnement et leurs comportements, tout en laissant ouverte la question distincte d’une éventuelle expérience subjective des systèmes.
Source : Gurnee et al. · Anthropic
Lire l’articleLes 6 et 7 juillet 2026, le dialogue de l’ONU réunit États et parties prenantes autour de la coopération internationale en matière de gouvernance de l’IA.
Source : Nations unies
Lire l’articleLe Persona Selection Model interprète le comportement des assistants à partir de personnages appris puis affinés pendant l’entraînement. Une théorie explicative, pas une preuve de conscience.
Source : Anthropic
Lire l’articleLoiZéro propose de dissocier capacité de compréhension et poursuite d’objectifs propres. Une architecture de recherche, dont la sûreté reste à éprouver.
Source : LoiZéro · Fornasiere et al.
Lire l’articleUne recommandation internationale place l’autonomie, la vie privée et l’intégrité mentale au centre du développement des neurotechnologies.
Source : UNESCO
Lire l’article
