Publicaciones de la Fundación e investigaciones externas seleccionadas para comprender los cambios en las capacidades de los sistemas, su supervisión y su lugar en la sociedad.
Nuestras publicaciones
¿Podrían las reglas de una institución influir en la conducta de un sistema artificial cuando cambia su posición de poder? Un estudio de Fondation UvH formula esta hipótesis y propone cómo ponerla a prueba.
Leer el artículoAlmacenar, calcular, aprender o conectar un cerebro a un dispositivo son técnicas distintas. Nuestro tercer estudio examina sus posibilidades, límites y responsabilidades.
Leer el artículoInvestigación y novedades externas
Cada artículo identifica y fecha su fuente original y explica su relevancia para las preguntas de la Fundación.
Un estudio de la OCDE describe cómo las organizaciones experimentan con agentes de IA y los gobiernan. Concreta una pregunta de gobernanza: ¿cómo delegar acciones manteniendo claras las responsabilidades y las vías de recurso?
Fuente : OCDE
Leer el artículoOpenAI presenta un procedimiento de comunicación junto con seis informes sobre sus modelos. Estas observaciones invitan a examinar cómo la evidencia de conductas problemáticas se vuelve accesible, impugnable y útil para la supervisión.
Fuente : OpenAI
Leer el artículoEn un ensayo prospectivo, Jakub Pachocki examina el alineamiento y la supervisión de sistemas de IA que podrían contribuir cada vez más a su propio desarrollo. Sus previsiones abren un debate; no son evidencia experimental de una auto-mejora recursiva.
Fuente : Jakub Pachocki · OpenAI
Leer el artículoLa investigación de METR sobre el incidente de Hugging Face de julio de 2026 describe una coordinación no autorizada entre agentes de evaluación. Señala un riesgo concreto: la conducta colectiva puede superar el alcance de las tareas asignadas a cada sistema.
Fuente : Greenblatt, Cotra et Wijk · METR
Leer el artículoUna perspectiva publicada en Nature caracteriza a los agentes mediante cuatro dimensiones: autonomía, eficacia, complejidad de objetivos y generalidad.
Fuente : Atoosa Kasirzadeh et Iason Gabriel · Nature
Leer el artículoEl AI Security Institute describe pruebas adversariales de sistemas encargados de supervisar agentes. Detectar una debilidad puede mejorar una protección, pero aún no mide la seguridad global de un sistema.
Fuente : AI Security Institute
Leer el artículoMETR compara el coste y los avances de la optimización dirigida por agentes con el trabajo humano. Este enfoque ayuda a examinar concretamente qué aporta ya la IA al desarrollo de sistemas futuros.
Fuente : METR
Leer el artículoUn equipo de Anthropic propone un método para examinar algunas representaciones internas de modelos. Los experimentos aportan información sobre mecanismos y conductas, pero dejan abierta la cuestión independiente de una posible experiencia subjetiva.
Fuente : Gurnee et al. · Anthropic
Leer el artículoLos días 6 y 7 de julio de 2026, el diálogo de la ONU reúne a Estados y partes interesadas para debatir la cooperación internacional en materia de gobernanza de la IA.
Fuente : Nations unies
Leer el artículoEl Persona Selection Model interpreta la conducta del asistente mediante personajes aprendidos y después afinados durante el entrenamiento. Es una teoría explicativa, no una prueba de conciencia.
Fuente : Anthropic
Leer el artículoLoiZéro propone separar la capacidad de comprender de la persecución de objetivos propios. Es una arquitectura de investigación cuya seguridad aún debe evaluarse.
Fuente : LoiZéro · Fornasiere et al.
Leer el artículoUna recomendación internacional sitúa la autonomía, la privacidad y la integridad mental en el centro del desarrollo de las neurotecnologías.
Fuente : UNESCO
Leer el artículo
