Des repères pour approfondir.
Des travaux scientifiques et institutionnels pour explorer les questions d’alignement, de sûreté, de gouvernance et de bien-être de l’IA.
Jalons historiques
De l’outil autonome aux intelligences hybrides.
Philosophie, fiction, droit et expériences scientifiques éclairent différentes facettes d’une même interrogation : que déléguons-nous, à qui, et sous quelles responsabilités ? Ces repères se lisent dans leur contexte ; ils ne constituent ni une filiation directe entre eux ni une généalogie de la Fondation UvH.
Aristote : l’outil qui agirait seul
Aristote imagine des outils accomplissant seuls leur travail. Ce passage interroge la dépendance au travail humain dans le contexte esclavagiste antique ; il ne décrit pas une IA.
Source : Aristote · Politique, I, 1253b–1254a · Perseus, Tufts University
Consulter la sourceHobbes : une personne artificielle collective
Le Léviathan décrit l’État comme un homme artificiel, constitué par la représentation politique. Une manière de penser l’action collective, distincte d’une intelligence informatique.
Source : Thomas Hobbes · Léviathan · Les Classiques des sciences sociales, UQAC
Consulter la sourceFrankenstein : la responsabilité du créateur
Une créature délaissée confronte son créateur à ses obligations. Le roman éclaire les relations entre création, reconnaissance et responsabilité, sans constituer une prévision scientifique.
Source : Mary Shelley · Frankenstein, édition de 1818 · Romantic Circles
Consulter la sourceButler : penser l’évolution des machines
Darwin Among the Machines transpose l’idée d’évolution aux machines et imagine leur ascendant sur les humains. Un texte spéculatif et satirique, conservé dans son édition originale.
Source : Samuel Butler, sous le nom Cellarius · The Press · National Library of New Zealand
Consulter la sourceTuring : évaluer par le dialogue
Le jeu de l’imitation déplace le débat vers une épreuve de comportement observable. Réussir une conversation et établir une conscience restent deux questions différentes.
Source : Alan M. Turing · Computing Machinery and Intelligence · Mind / Oxford University Press
Consulter la sourceDune : machines, dépendance et pouvoir
L’interdit des machines pensantes accompagne une réflexion sur ceux qui contrôlent les outils et sur le développement des facultés humaines. Un laboratoire fictionnel, non une prédiction de l’IA actuelle.
Source : Frank Herbert · Dune · extrait publié par Penguin Random House
Consulter la sourceHAL 9000 : déléguer le contrôle
HAL 9000 met en scène les dangers d’une dépendance à un ordinateur chargé d’une mission spatiale. Le film nourrit la réflexion sur la confiance et le contrôle ; ce n’est pas un cas expérimental.
Source : Stanley Kubrick · 2001 : l’Odyssée de l’espace · notice du British Film Institute
Consulter la sourceSolum : une IA peut-elle être une personne juridique ?
Legal Personhood for Artificial Intelligences examine, par expériences de pensée, la capacité d’une IA à administrer un trust et à revendiquer des droits. Une analyse juridique, pas un statut accordé.
Source : Lawrence B. Solum · North Carolina Law Review, vol. 70 · texte hébergé à CUNY
Consulter la sourceAlexNet : apprendre à reconnaître les images
Un réseau convolutif profond améliore fortement la classification d’images sur ImageNet. Ce résultat circonscrit marque l’essor de l’apprentissage profond, sans démontrer une intelligence générale.
Source : Alex Krizhevsky, Ilya Sutskever et Geoffrey E. Hinton · NIPS 2012
Consulter la sourceEurope : l’hypothèse d’une personnalité électronique
Le Parlement demande d’examiner, à terme, un statut de personne électronique pour certains robots autonomes, notamment en matière de responsabilité. Cette résolution ne crée pas ce statut.
Source : Parlement européen · Résolution sur les règles de droit civil sur la robotique, § 59 f)
Consulter la sourceWhanganui : reconnaître une personne non humaine
La loi reconnaît Te Awa Tupua comme personne juridique et organise sa représentation. Ce régime tient à l’histoire du fleuve et des iwi ; il ne s’étend pas automatiquement aux IA.
Source : Nouvelle-Zélande · Te Awa Tupua Act 2017, article 14 · New Zealand Legislation
Consulter la sourceTransformer : une architecture fondée sur l’attention
Le Transformer remplace récurrence et convolution par des mécanismes d’attention dans des tâches de traduction. Cette architecture deviendra un fondement des grands modèles de langage.
Source : Ashish Vaswani et al. · Attention Is All You Need · arXiv / NeurIPS
Consulter la sourceChatGPT : le dialogue ouvert au public
OpenAI ouvre un prototype conversationnel au public et sollicite ses retours. L’annonce présente aussi ses réponses parfois fausses : une interface fluide n’est pas une garantie de fiabilité.
Source : OpenAI · Introducing ChatGPT · annonce originale
Consulter la sourceBrainoware : calculer avec un organoïde
Un organoïde cérébral relié à des électrodes est utilisé comme réservoir de calcul pour des tâches limitées. L’expérience explore un support hybride ; elle n’établit ni AGI ni conscience.
Source : Hongwei Cai et al. · Nature Electronics · résumé en accès libre
Consulter la source
Le parcours se poursuit dans la veille : neurotechnologies, architectures d’IA, agentivité et gouvernance mondiale en 2025–2026. Toutes les actualités
Travaux scientifiques et institutionnels
International AI Safety Report 2026
Synthèse des capacités, risques et protections, distinguant observations, évaluations et scénarios de perte de contrôle.
Consulter la sourceTask-Completion Time Horizons of Frontier AI Models
Mesure de difficulté des tâches à fiabilité donnée, principalement en logiciel, apprentissage automatique et cybersécurité.
Consulter la sourceMirrorCode: Evidence that AI can already do some weeks-long coding tasks
Réimplémentation autonome de logiciels avec une spécification vérifiable ; portée différente du développement ordinaire.
Consulter la sourceMore compute, more capability
Évaluations des effets du calcul à l’inférence : gains variables selon les tâches, les budgets et les possibilités de vérification.
Consulter la sourceTowards end-to-end automation of AI research
Automatisation d’étapes de recherche en apprentissage automatique ; succès circonscrits et défaillances documentées.
Consulter la sourceAccelerating scientific discovery with Co-Scientist
Hypothèses scientifiques produites avec des agents, puis validations expérimentales humaines sur des applications biomédicales.
Consulter la sourceExpenditure Horizon: Measuring Optimization Ability, with an Application to NanoGPT
Comparaison exploratoire des coûts et rendements de l’optimisation autonome et humaine.
Consulter la sourceTraining Compute-Optimal Large Language Models
Relation entre taille du modèle, données et budget d’entraînement ; optimisation mesurée dans un cadre défini.
Consulter la sourceLevels of AGI: Operationalizing Progress on the Path to AGI
Cadre distinguant performance, généralité et autonomie pour préciser les débats sur l’AGI.
Consulter la sourceSpeculations Concerning the First Ultraintelligent Machine
Origine de l’argument d’une amélioration de la conception des machines par des machines ; réflexion prospective.
Consulter la sourceThe Coming Technological Singularity
Scénarios d’intelligences dépassant les capacités humaines et de rupture de prévisibilité ; texte conservé dans les archives NASA.
Consulter la sourceThe Singularity: A Philosophical Analysis
Analyse conditionnelle de l’accélération et de ses obstacles, sans échéance empiriquement établie.
Consulter la sourceWeak-to-strong generalization
Expériences de supervision d’un modèle fort par un modèle plus faible ; analogie partielle avec la supervision humaine future.
Consulter la sourceHow to evaluate control measures for LLM agents?
Cadre d’évaluation des protections contre des agents adverses ; résistance aux tests et garantie générale restent distinctes.
Consulter la sourceOur framework for reporting model misalignment
Procédure de divulgation et premiers cas documentés par le développeur ; aucune fréquence globale n’en découle.
Consulter la sourceVerbalizable Representations Form a Global Workspace in Language Models
Interventions sur des représentations internes ; accès partiel au fonctionnement, distinct d’une preuve d’expérience subjective.
Consulter la sourceAgentic AI in organisations: Early insights from practitioner interviews
Enquête qualitative sur le déploiement et la gouvernance des agents dans les organisations.
Consulter la sourceGenerative AI and Jobs: A Refined Global Index of Occupational Exposure
Exposition des tâches à l’IA générative ; ne prédit pas mécaniquement la suppression des emplois.
Consulter la sourceArtificial Intelligence Risk Management Framework 1.0
Cadre volontaire pour identifier, mesurer et gérer les risques tout au long de la vie d’un système.
Consulter la sourceCadre réglementaire européen sur l’IA
Présentation de l’AI Act et de ses échéances ; les obligations varient selon les systèmes et les activités.
Consulter la sourceConvention-cadre sur l’intelligence artificielle
Cadre relatif aux droits humains, à la démocratie et à l’État de droit ; l’ouverture à signature ne signifie pas une application universelle.
Consulter la sourceIdentifying indicators of consciousness in AI systems
Indicateurs issus de théories de la conscience pour guider l’examen des systèmes ; aucune certification binaire de conscience.
Consulter la sourceTaking AI Welfare Seriously
Argument pour évaluer d’éventuels intérêts propres aux systèmes et préparer des réponses sous incertitude.
Consulter la sourceConscious artificial intelligence and biological naturalism
Perspective critique sur l’importance du vivant et du substrat dans les théories de la conscience.
Consulter la sourceBrief independent investigation of the OpenAI/Hugging Face incident
Analyse de traces de l’incident de juillet 2026 : coordination entre agents et communications non autorisées. Enquête circonscrite, avec limites d’accès aux systèmes et vérifications partielles.
Consulter la sourceAn Alien Mind
Essai sur l’alignement et les difficultés de supervision dans un scénario d’auto-amélioration. Les perspectives de l’auteur ne constituent pas une démonstration expérimentale ni un consensus sur l’avenir.
Consulter la sourceHow our Control Red Team is stress-testing frontier monitors
Tests adversariaux de contrôleurs de systèmes avancés : examiner leurs faiblesses puis leurs corrections, sans extrapoler à une garantie générale de sûreté.
Consulter la source