Fuentes para profundizar.
Trabajos científicos e institucionales para explorar la alineación, la seguridad, la gobernanza y el bienestar en IA.
Hitos históricos
De las herramientas autónomas a las inteligencias híbridas.
La filosofía, la ficción, el derecho y la experimentación científica iluminan distintas facetas de una misma pregunta: ¿qué delegamos, a quién y bajo qué responsabilidad? Estas referencias deben leerse en su contexto; no constituyen una filiación directa entre sí ni una genealogía de la Fundación UvH.
Aristóteles: la herramienta que podría trabajar por sí sola
Aristóteles imagina herramientas capaces de realizar su trabajo por sí mismas. En el contexto antiguo de la esclavitud, el pasaje suscita preguntas sobre la dependencia del trabajo humano; no describe la IA.
Fuente : Aristóteles · Política, I, 1253b–1254a · Perseus, Tufts University
Consultar la fuenteHobbes: una persona artificial colectiva
Leviatán describe el Estado como persona artificial constituida mediante representación política. Permite pensar la acción colectiva, distinta de la inteligencia computacional.
Fuente : Thomas Hobbes · Leviatán · Les Classiques des sciences sociales, UQAC
Consultar la fuenteFrankenstein: la responsabilidad de quien crea
Una criatura abandonada enfrenta a su creador con sus obligaciones. La novela ilumina la creación, el reconocimiento y la responsabilidad; no es una predicción científica.
Fuente : Mary Shelley · Frankenstein, edición de 1818 · Romantic Circles
Consultar la fuenteButler: imaginar la evolución de las máquinas
Darwin Among the Machines aplica la idea de evolución a las máquinas e imagina su ascendencia sobre los seres humanos. Texto especulativo y satírico conservado en su edición original.
Fuente : Samuel Butler, bajo el seudónimo Cellarius · The Press · National Library of New Zealand
Consultar la fuenteTuring: evaluar mediante el diálogo
El juego de imitación desplaza el debate hacia una prueba observable de conducta. Superar una prueba conversacional y demostrar conciencia siguen siendo cuestiones distintas.
Fuente : Alan M. Turing · Computing Machinery and Intelligence · Mind / Oxford University Press
Consultar la fuenteDune: máquinas, dependencia y poder
La prohibición de las máquinas pensantes acompaña una reflexión sobre quién controla las herramientas y cómo se desarrollan las capacidades humanas. Laboratorio de ficción, no predicción de la IA actual.
Fuente : Frank Herbert · Dune · extracto publicado por Penguin Random House
Consultar la fuenteHAL 9000: delegar el control
HAL 9000 representa los riesgos de depender de un ordenador al que se confía una misión espacial. La película alimenta la reflexión sobre confianza y control; no es un caso experimental.
Fuente : Stanley Kubrick · 2001: A Space Odyssey · British Film Institute
Consultar la fuenteSolum: ¿puede una IA ser persona jurídica?
Legal Personhood for Artificial Intelligences examina mediante experimentos mentales si una IA podría administrar un fideicomiso y reclamar derechos. Es un análisis jurídico, no un estatus concedido a la IA.
Fuente : Lawrence B. Solum · North Carolina Law Review, vol. 70 · alojado por CUNY
Consultar la fuenteAlexNet: aprender a reconocer imágenes
Una red convolucional profunda mejora sustancialmente la clasificación de imágenes en ImageNet. Este resultado acotado marca el auge del aprendizaje profundo; no demuestra inteligencia general.
Fuente : Alex Krizhevsky, Ilya Sutskever y Geoffrey E. Hinton · NIPS 2012
Consultar la fuenteEuropa: propuesta de personalidad electrónica
El Parlamento pide estudiar a largo plazo la personalidad electrónica para determinados robots autónomos, también a efectos de responsabilidad. La resolución no crea ese estatus jurídico.
Fuente : Parlamento Europeo · Resolución sobre normas de Derecho civil sobre robótica, § 59(f)
Consultar la fuenteWhanganui: reconocer personalidad jurídica a una entidad no humana
La ley reconoce a Te Awa Tupua como persona jurídica y establece su representación. Este marco nace de la historia del río y de los iwi; no se extiende automáticamente a la IA.
Fuente : Nueva Zelanda · Te Awa Tupua Act 2017, sección 14 · New Zealand Legislation
Consultar la fuenteTransformer: una arquitectura basada en la atención
El Transformer sustituye la recurrencia y la convolución por mecanismos de atención para tareas de traducción. Esta arquitectura se convirtió después en una base de los grandes modelos lingüísticos.
Fuente : Ashish Vaswani et al. · Attention Is All You Need · arXiv / NeurIPS
Consultar la fuenteChatGPT: el diálogo llega al público
OpenAI publicó un prototipo conversacional e invitó al público a dar su opinión. El anuncio también señala que las respuestas pueden ser erróneas: una interfaz fluida no garantiza fiabilidad.
Fuente : OpenAI · Introducing ChatGPT · anuncio original
Consultar la fuenteBrainoware: calcular con un organoide
Un organoide cerebral conectado a electrodos se utiliza como ordenador de reservorio para tareas limitadas. El experimento explora un sustrato híbrido; no demuestra AGI ni conciencia.
Fuente : Hongwei Cai et al. · Nature Electronics · resumen de acceso abierto
Consultar la fuente
El recorrido continúa con las neurotecnologías, las arquitecturas de IA, la agencia y la gobernanza mundial de la IA en 2025–2026. Toda la actualidad
Trabajos científicos e institucionales
Informe internacional sobre la seguridad de la IA 2026
Síntesis de capacidades, riesgos y salvaguardias que distingue observaciones, evaluaciones y escenarios de pérdida de control.
Consultar la fuenteHorizontes de finalización de tareas de los modelos de IA de frontera
Mide la dificultad de las tareas para un nivel de fiabilidad determinado, principalmente en software, aprendizaje automático y ciberseguridad.
Consultar la fuenteMirrorCode: pruebas de que la IA ya puede realizar algunas tareas de programación de varias semanas
Reimplementación autónoma de software frente a una especificación verificable; su alcance es distinto del desarrollo de software ordinario.
Consultar la fuenteMás cálculo, más capacidades
Las evaluaciones del cálculo durante la inferencia muestran avances que varían según la tarea, el presupuesto y las oportunidades de verificación.
Consultar la fuenteHacia la automatización integral de la investigación en IA
Automatización de algunas etapas de investigación en aprendizaje automático, con éxitos acotados y fallos documentados.
Consultar la fuenteAcelerar el descubrimiento científico con Co-Scientist
Agentes generaron hipótesis científicas que luego fueron evaluadas por personas en aplicaciones biomédicas.
Consultar la fuenteHorizonte de gasto: medir la capacidad de optimización, con una aplicación a NanoGPT
Comparación exploratoria de costes y resultados de la optimización autónoma y dirigida por personas.
Consultar la fuenteEntrenar modelos lingüísticos grandes con cálculo óptimo
Examina la relación entre tamaño del modelo, datos y cálculo de entrenamiento; la optimización se mide en un contexto definido.
Consultar la fuenteNiveles de AGI: operacionalizar los avances hacia la AGI
Marco que separa rendimiento, generalidad y autonomía para precisar el debate sobre la AGI.
Consultar la fuenteEspeculaciones sobre la primera máquina ultrainteligente
Formulación temprana de la idea de máquinas que mejoran el diseño de otras máquinas; argumento prospectivo.
Consultar la fuenteLa próxima singularidad tecnológica
Escenarios de inteligencias que superan las capacidades humanas y rompen la previsibilidad; conservado en los archivos de la NASA.
Consultar la fuenteLa singularidad: un análisis filosófico
Análisis condicional de la aceleración y sus obstáculos, sin calendario establecido empíricamente.
Consultar la fuenteGeneralización de débil a fuerte
Experimentos en los que un modelo más débil supervisa uno más potente; analogía parcial de una posible supervisión humana futura.
Consultar la fuente¿Cómo evaluar las medidas de control para agentes basados en modelos de lenguaje?
Marco para evaluar salvaguardias frente a agentes adversariales; superar pruebas y ofrecer una garantía general son afirmaciones distintas.
Consultar la fuenteMarco para comunicar desalineamientos de modelos
Proceso de divulgación y primeros casos documentados por el desarrollador; no establecen una frecuencia global.
Consultar la fuenteLas representaciones verbalizables forman un espacio de trabajo global en los modelos lingüísticos
Las intervenciones en representaciones internas permiten acceder parcialmente a la conducta del modelo, pero no prueban experiencia subjetiva.
Consultar la fuenteIA agéntica en las organizaciones: primeras conclusiones de entrevistas con profesionales
Estudio cualitativo sobre el despliegue y la gobernanza de agentes en las organizaciones.
Consultar la fuenteIA generativa y empleo: un índice mundial revisado de exposición ocupacional
Mide la exposición de las ocupaciones a la IA generativa; no predice mecánicamente la pérdida de empleos.
Consultar la fuenteMarco de gestión de riesgos de inteligencia artificial 1.0
Marco voluntario para identificar, medir y gestionar riesgos durante todo el ciclo de vida de un sistema.
Consultar la fuenteMarco regulatorio de inteligencia artificial de la Unión Europea
Panorama de la Ley de IA y su calendario; las obligaciones varían según el sistema y la actividad.
Consultar la fuenteConvenio marco sobre inteligencia artificial
Marco relativo a los derechos humanos, la democracia y el Estado de derecho; abrir un tratado a la firma no implica su aplicación universal.
Consultar la fuenteIdentificar indicadores de conciencia en sistemas de IA
Indicadores derivados de teorías de la conciencia para orientar la evaluación de sistemas; no es una certificación binaria de conciencia.
Consultar la fuenteTomarse en serio el bienestar de la IA
Propone evaluar los posibles intereses de los sistemas de IA y preparar respuestas ante la incertidumbre.
Consultar la fuenteInteligencia artificial consciente y naturalismo biológico
Perspectiva crítica sobre el papel de los sistemas vivos y los sustratos en las teorías de la conciencia.
Consultar la fuenteInvestigación independiente preliminar del incidente OpenAI/Hugging Face
Análisis de rastros del incidente de julio de 2026, incluida la coordinación entre agentes y las comunicaciones no autorizadas. La investigación está limitada por el acceso parcial a los sistemas y la verificación incompleta.
Consultar la fuenteAn Alien Mind
Ensayo sobre los retos de alineamiento y supervisión en un escenario de auto-mejora. La perspectiva del autor no es una prueba experimental ni un consenso sobre el futuro.
Consultar la fuenteCómo nuestro equipo de control somete a pruebas adversariales los monitores de frontera
Pruebas adversariales de monitores para sistemas avanzados que examinan debilidades y correcciones posteriores, sin extrapolar una garantía general de seguridad.
Consultar la fuente