我们的工作。
持续的讨论。

该基金会的出版物,以及外部研究的精选,旨在了解系统能力的变化、它们得到监控的方式,以及它们在社会中的地位。

我们的出版物

基金会动态

外部研发研究

人工智能监控

每个文章都提供一个原始来源,并解释其对该基金会的疑问所做的贡献。

人工智能观察 · 外部来源

原始发布日期 · · 网络安全与人工智能

PHP:人工智能助力揭示一项旧缺陷的影响

2024年,PHP 核心开发者已发现一项内存问题的早期迹象,但当时尚未证明具体攻击路径。2026年,人工智能辅助研究帮助揭示了严重漏洞的实际影响。这一事件说明,人工智能可能加快漏洞发现,也会加快保护互联网基础软件的竞赛。

来源 : The PHP Foundation

阅读文章
人工智能观察 · 外部来源

原始发布日期 · · 对齐与透明度

记录指令与行为之间的差距

OpenAI发布了一个披露流程和六份模型报告。这些观察促使我们追问:如何让问题行为的证据可查、可质疑,并用于系统监督?

来源 : OpenAI

阅读文章
人工智能观察 · 外部来源

原始发布日期 · · 行为与对齐

Anthropic:理解助手人格

Persona Selection Model通过训练中学到并逐渐精炼的人格来解释助手行为。这是一种解释理论,并非意识证据。

来源 : Anthropic

阅读文章