基金会Üriel von Hollenweger
联系
中文

语言

选择网站语言。文献仍以原始语言提供。

延伸阅读。

通过科学与机构研究，进一步探讨人工智能的对齐、安全、治理与福祉。

历史里程碑

从自主工具到混合智能。

哲学、小说、法律和科学实验从不同角度照亮同一个问题：我们把什么交给谁，又由谁承担责任？这些资料应结合各自背景阅读；它们彼此之间并非直接传承，也不构成 UvH 基金会的历史谱系。

  1. 公元前四世纪哲学

    亚里士多德：能够自行工作的工具

    亚里士多德设想工具可以自行完成工作。结合古代奴隶制语境，这段文字提出了依赖人类劳动的问题，并非在描述人工智能。

    来源 : 亚里士多德 ·《政治学》I卷，1253b–1254a · 塔夫茨大学 Perseus

    查看来源

  2. 1651年政治哲学

    霍布斯：集体构成的人工人格

    《利维坦》将国家描述为通过政治代表形成的人工人格，为思考集体行动提供路径；它与计算智能不同。

    来源 : 托马斯·霍布斯 ·《利维坦》· 魁北克大学古典文库

    查看来源

  3. 1818年文学

    《弗兰肯斯坦》：创造者的责任

    被遗弃的造物要求创造者承担义务。这部小说启发对创造、承认和责任的思考，并非科学预测。

    来源 : 玛丽·雪莱 ·《弗兰肯斯坦》1818年版 · Romantic Circles

    查看来源

  4. 1863年6月13日前瞻性随笔

    巴特勒：想象机器的演化

    《机器中的达尔文》以进化论想象机器的崛起，是保存下来的推测性讽刺作品。

    来源 : 塞缪尔·巴特勒（笔名 Cellarius）·《基督城报》· 新西兰国家图书馆

    查看来源

  5. 1950年10月计算与哲学

    图灵：通过对话进行评估

    模仿游戏将讨论转向可观察的行为测试。通过对话测试与证明意识仍是不同问题。

    来源 : Alan M. Turing ·《计算机器与智能》·《心智》／牛津大学出版社

    查看来源

  6. 1965年 · 原作前瞻性文学

    《沙丘》：机器、依赖与权力

    对思考机器的禁令伴随关于工具控制和人类能力发展的思考。这是虚构思想实验，不是对当代人工智能的预测。

    来源 : Frank Herbert ·《沙丘》· Penguin Random House节选

    查看来源

  7. 1968年 · 原作电影

    HAL 9000：委托控制

    HAL 9000呈现了将太空任务托付给计算机的风险，有助于讨论信任和控制，但不是实验案例。

    来源 : Stanley Kubrick ·《2001太空漫游》· 英国电影协会

    查看来源

  8. 1992年法律理论

    Solum：人工智能可以成为法律主体吗？

    《人工智能的法律人格》通过思想实验探讨人工智能能否管理信托或主张权利；这是一项法律分析，并未赋予人工智能法律身份。

    来源 : Lawrence B. Solum ·《北卡罗来纳法律评论》第70卷 · CUNY

    查看来源

  9. 2012年机器学习

    AlexNet：学习识别图像

    深度卷积网络大幅改善ImageNet图像分类。这是深度学习发展的重要节点，并不证明通用智能。

    来源 : Alex Krizhevsky、Ilya Sutskever、Geoffrey E. Hinton · NIPS 2012

    查看来源

  10. 2017年2月16日法律提案

    欧洲：电子人格提案

    欧洲议会呼吁长期研究某些自主机器的电子人格及责任问题；该决议并未创设这种法律身份。

    来源 : 欧洲议会 ·《机器人民事法律规则决议》第59(f)段

    查看来源

  11. 2017年法律与代表制

    旺格努伊：承认非人类法律主体

    法律承认Te Awa Tupua为法律主体并规定其代表机制。此制度植根于河流与部族历史，不会自动适用于人工智能。

    来源 : 新西兰 ·《Te Awa Tupua法案》2017年第14条 · 新西兰立法

    查看来源

  12. 2017年6月12日 · 预印本计算架构

    Transformer：基于注意力的架构

    Transformer在翻译任务中以注意力机制取代循环和卷积架构，后来成为大型语言模型的重要基础。

    来源 : Ashish Vaswani 等 ·《Attention Is All You Need》· arXiv／NeurIPS

    查看来源

  13. 2022年11月30日技术里程碑

    ChatGPT：面向公众开放对话

    OpenAI向公众发布对话原型并征求反馈。公告也说明回答可能错误；流畅表达不等于可靠。

    来源 : OpenAI ·《Introducing ChatGPT》· 原始公告

    查看来源

  14. 2023年12月11日实验研究

    Brainoware：使用类器官进行计算

    连接电极的脑类器官被用于有限任务的储备池计算实验。研究探索混合基底，但并未证明AGI或意识。

    来源 : Hongwei Cai 等 ·《自然·电子学》· 开放获取摘要

    查看来源

这条脉络延伸至神经技术、人工智能架构、能动性以及2025—2026年的全球人工智能治理。 全部动态

科学与机构研究

  1. 《2026年国际人工智能安全报告》

    国际科学报告 · 2026年2月

    汇总人工智能能力、风险和保障措施，并区分观察结果、评估与失控情景。

    查看来源

  2. 前沿人工智能模型的任务完成时间范围

    METR · 2026年5月8日更新

    在特定可靠性水平下衡量任务难度，主要涉及软件、机器学习和网络安全。

    查看来源

  3. MirrorCode：人工智能已能完成部分持续数周的编程任务

    Epoch AI 与 METR · 2026年4月10日

    研究可验证规范下的软件自主复现；其研究范围不同于一般软件开发。

    查看来源

  4. 更多计算资源，更强能力

    英国人工智能安全研究所 · 2026年7月2日

    推理阶段计算带来的评测提升因任务、预算和验证机会而异。

    查看来源

  5. 迈向端到端的人工智能研究自动化

    Lu 等 ·《自然》· 2026年3月25日

    自动化部分机器学习研究步骤，记录了有限范围内的成功与失败。

    查看来源

  6. 利用 Co-Scientist 加速科学发现

    Gottweis 等 ·《自然》· 2026年5月19日

    智能体生成科学假设，再由研究人员在生物医学应用中进行检验。

    查看来源

  7. 支出视野：衡量优化能力，并应用于 NanoGPT

    Cunningham 等 · METR · 2026年7月21日

    探索性比较自主优化与人类主导优化的成本和回报。

    查看来源

  8. 训练计算量最优的大型语言模型

    Hoffmann 等 · NeurIPS 2022

    研究模型规模、数据与训练计算之间的关系；优化结果仅适用于明确设定。

    查看来源

  9. AGI 级别：将通往通用人工智能的进展操作化

    Morris 等 · 2023年预印本，ICML 2024

    区分性能、通用性和自主性的框架，有助于明确AGI讨论。

    查看来源

  10. 关于第一台超智能机器的推测

    I. J. Good · 1965年

    早期提出机器可以改进其他机器的设计；这是一项前瞻性论证。

    查看来源

  11. 即将到来的技术奇点

    Vernor Vinge · 1993年会议论文

    讨论超越人类能力的智能及可预测性变化等情景；现存于NASA档案。

    查看来源

  12. 奇点：哲学分析

    David J. Chalmers · 2010年

    有条件地分析加速及其障碍；没有提出经实证确立的时间表。

    查看来源

  13. 弱模型监督强模型：泛化研究

    Burns 等 · 2023年12月14日

    研究用较弱模型监督较强模型的实验；这只与未来的人类监督构成有限类比。

    查看来源

  14. 如何评估大型语言模型智能体的控制措施？

    Korbak 等 · 2025年4月7日预印本

    提出评估对抗性智能体保障措施的框架；通过测试与获得普遍保证是两回事。

    查看来源

  15. 我们的模型失配报告框架

    OpenAI · 2026年9月16日

    开发者公布披露流程和初步案例；这些案例不能说明失配的总体发生频率。

    查看来源

  16. 可言说表征在语言模型中形成全局工作空间

    Gurnee 等 · Anthropic · 2026年7月6日

    对内部表征的干预提供了理解模型行为的部分途径，并非主观体验的证据。

    查看来源

  17. 组织中的智能体AI：从实践者访谈获得的早期洞见

    经合组织（OECD）· 2026年9月16日

    一项关于组织部署和治理智能体的定性研究。

    查看来源

  18. 生成式人工智能与就业：全球职业暴露度修订指数

    Gmyrek 等 · 国际劳工组织（ILO）· 2025年5月20日

    衡量职业对生成式人工智能的暴露度，不会机械地预测岗位流失。

    查看来源

  19. 人工智能风险管理框架 1.0

    美国国家标准与技术研究院（NIST）· 2023年1月26日

    一项自愿性框架，支持在系统生命周期内识别、衡量和管理风险。

    查看来源

  20. 欧盟人工智能监管框架

    欧盟委员会 · 查阅官方时间表：2026年9月21日

    介绍《人工智能法案》及其时间安排；义务因系统和活动而异。

    查看来源

  21. 人工智能框架公约

    欧洲委员会 · 2024年9月5日开放签署

    围绕人权、民主和法治制定框架；开放签署不代表普遍适用。

    查看来源

  22. 识别人工智能系统意识的指标

    Butlin、Long 等 · 2025年11月10日在线发表；2026年6月刊

    从意识理论提取指标以指导系统评估；不是意识的二元认证。

    查看来源

  23. 认真对待人工智能福祉

    Long 等 · 2024年11月4日预印本

    主张评估人工智能系统可能具有的利益，并在不确定性下预备应对方案。

    查看来源

  24. 有意识的人工智能与生物自然主义

    Anil K. Seth · 2025年4月21日

    对生命系统及其基底在意识理论中所起作用的批判性观点。

    查看来源

  25. OpenAI／Hugging Face事件的独立简要调查

    METR · 2026年8月26日

    分析2026年7月事件的记录，包括智能体协同和未授权通信；调查受到系统访问有限和部分验证的约束。

    查看来源

  26. 《An Alien Mind》

    Jakub Pachocki · OpenAI · 2026年9月6日

    探讨自我改进情景中的对齐与监督挑战。作者的展望不是实验性证明，也不是对未来的共识。

    查看来源

  27. 控制红队如何对前沿系统监测器进行压力测试

    英国人工智能安全研究所 · 2026年7月23日

    对抗性测试发现先进系统监测器的弱点及后续修正，不据此推导普遍安全保证。

    查看来源