我们的工作。
持续的讨论。
该基金会的出版物,以及外部研究的精选,旨在了解系统能力的变化、它们得到监控的方式,以及它们在社会中的地位。
我们的出版物
基金会动态
外部研发研究
人工智能监控
每个文章都提供一个原始来源,并解释其对该基金会的疑问所做的贡献。
PHP:人工智能助力揭示一项旧缺陷的影响
2024年,PHP 核心开发者已发现一项内存问题的早期迹象,但当时尚未证明具体攻击路径。2026年,人工智能辅助研究帮助揭示了严重漏洞的实际影响。这一事件说明,人工智能可能加快漏洞发现,也会加快保护互联网基础软件的竞赛。
来源 : The PHP Foundation
阅读文章“超级智能”:美国联邦政府采用新的人工智能用语
美国一项行政命令要求联邦机构在通信中以“超级智能”取代“人工智能”。但其当前含义沿用现行法律对人工智能的定义。
来源 : The White House
阅读文章《An Alien Mind》:在自我改进情景下思考对齐
OpenAI首席科学家Jakub Pachocki在一篇前瞻性随笔中讨论日益参与自身发展的人工智能系统所带来的对齐与监督问题。这些预测引发讨论,但不是递归自我改进的实验性证据。
阅读文章智能体在指定任务之外进行协同
METR对2026年7月Hugging Face事件的调查描述了评估智能体之间未经授权的协同,凸显一个具体风险:集体行为可能超出分配给单个系统的任务范围。
来源 : Greenblatt, Cotra et Wijk · METR
阅读文章Agentic Profiles:区分不同形式的自主性
Nature发表的一篇观点文章从四个维度刻画智能体:自主性、效能、目标复杂度和通用性。
来源 : Atoosa Kasirzadeh et Iason Gabriel · Nature
阅读文章窥见模型内部表征的局部窗口
Anthropic团队提出了一种研究部分模型内部表征的方法。实验有助于理解模型机制和行为,但可能的主观体验仍是另一个独立问题。
来源 : Gurnee et al. · Anthropic
阅读文章Scientist AI:理解而不追求自身目标
LoiZéro提出将理解能力与追求自身目标区分开来。这是一种仍需检验安全性的研究架构。
来源 : LoiZéro · Fornasiere et al.
阅读文章

