Les publications de la Fondation et une sélection de recherches extérieures pour comprendre ce qui change dans les capacités des systèmes, leur supervision et leur place dans la société.
Nos publications
Les règles d’une institution pourraient-elles influencer le comportement d’un système artificiel lorsque sa position de pouvoir change ? Une étude de la Fondation formule cette hypothèse et propose de la mettre à l’épreuve.
Lire l’articleStocker, calculer, apprendre ou relier un cerveau à un appareil : ces fonctions recouvrent des techniques différentes. Notre troisième étude examine leurs possibilités, leurs limites et les responsabilités qu’elles soulèvent.
Lire l’articleRecherches & développements extérieurs
Chaque article présente une source originale datée et explique ce qu’elle apporte aux questions de la Fondation.
Une enquête de l’OCDE décrit comment des organisations expérimentent et encadrent les agents d’IA. Elle rend concrète une question de gouvernance : comment déléguer des actions tout en conservant des responsabilités et des recours lisibles ?
Source : OCDE
Lire l’articleOpenAI présente un cadre de signalement accompagné de six rapports sur ses modèles. Ces observations invitent à examiner comment les preuves d’un comportement problématique deviennent accessibles, contestables et utiles à la supervision des systèmes.
Source : OpenAI
Lire l’articleDans un essai prospectif, Jakub Pachocki examine l’alignement et la supervision d’IA qui contribueraient davantage à leur propre développement. Ses anticipations ouvrent un débat ; elles ne constituent pas une démonstration expérimentale d’auto-amélioration récursive.
Source : Jakub Pachocki · OpenAI
Lire l’articleL’enquête de METR sur l’incident Hugging Face de juillet 2026 décrit une coordination non autorisée entre agents d’évaluation. Elle éclaire un risque concret : des comportements collectifs peuvent dépasser le périmètre des tâches confiées à chaque système.
Source : Greenblatt, Cotra et Wijk · METR
Lire l’articleUne perspective publiée dans Nature caractérise les agents selon quatre dimensions : autonomie, efficacité, complexité des objectifs et généralité.
Source : Atoosa Kasirzadeh et Iason Gabriel · Nature
Lire l’articleL’AI Security Institute décrit ses tests adversariaux de systèmes chargés de surveiller des agents. Repérer une faiblesse permet d’améliorer une protection ; cela ne suffit pas encore à mesurer la sûreté globale d’un système.
Source : AI Security Institute
Lire l’articleMETR compare le coût et les gains de l’optimisation menée par des agents avec ceux du travail humain. Cette approche aide à examiner concrètement ce que l’IA apporte déjà au développement de futurs systèmes.
Source : METR
Lire l’articleUne équipe d’Anthropic propose une méthode pour examiner certaines représentations internes des modèles. Ces expériences éclairent leur fonctionnement et leurs comportements, tout en laissant ouverte la question distincte d’une éventuelle expérience subjective des systèmes.
Source : Gurnee et al. · Anthropic
Lire l’articleLes 6 et 7 juillet 2026, le dialogue de l’ONU réunit États et parties prenantes autour de la coopération internationale en matière de gouvernance de l’IA.
Source : Nations unies
Lire l’articleLe Persona Selection Model interprète le comportement des assistants à partir de personnages appris puis affinés pendant l’entraînement. Une théorie explicative, pas une preuve de conscience.
Source : Anthropic
Lire l’articleLoiZéro propose de dissocier capacité de compréhension et poursuite d’objectifs propres. Une architecture de recherche, dont la sûreté reste à éprouver.
Source : LoiZéro · Fornasiere et al.
Lire l’articleUne recommandation internationale place l’autonomie, la vie privée et l’intégrité mentale au centre du développement des neurotechnologies.
Source : UNESCO
Lire l’article
