Anthropic 的 Jacob Coxon 警告称,面对自主系统,AI 终止开关可能会变得过时
2026-09-15 02:59:05
Jacob Coxon 于 2026 年 9 月 9 日从 Anthropic 辞职。四天后,他在 NBC News 节目中警告说,内置于先进 AI 系统中的终止开关,可能无法有效应对未来以分布式、类似蜂群的配置运行的自主代理;这些代理可能绕过集中式关机指令。
这些担忧与近期的监管行动相一致。2026 年 6 月,商务部暂停了境外对 Anthropic 先进模型的访问;2026 年 7 月,国会提出了获两党支持的《AI 终止开关法案》,旨在对前沿 AI 开发施加正式管控。2026 年 6 月的一项调查发现,86% 的美国选民支持为最强大的 AI 系统配备有保障的关闭开关。
声明:文章不代表币小二观点及立场,不构成本平台任何投资建议。投资决策需建立在独立思考之上,本文内容仅供参考,风险自担!