Anthropic 联创 Jack Clark 公开承认：Claude 80% 代码自写 + "刹车踏板"呼吁
Anthropic 联创 Jack Clark 公开承认：Claude 80% 代码自写 + "刹车踏板"呼吁
来源类型： 行业重磅 + AI 安全
日期： 2026-06-07
标签： #Anthropic #JackClark #Claude80%代码 #自我迭代 #AI刹车踏板 #Bengio #Newsnight
核心事件
Anthropic 联创 Jack Clark 在 BBC 王牌栏目 Newsnight 上公开承认：
"Claude 的代码，80% 都是自己写的！"
"两年之内，这个比例可能冲到 100%。届时，AI 彻底实现自我创造、无限迭代，人类的'输入'被彻底排除在外。"
Jack Clark 的"刹车踏板"呼吁
"现在的 AI 行业，就像一辆只有油门、没有刹车踏板的车。"
"我们想做的，就是把那个'刹车踏板'造出来。"
Bengio 公开支持
"几天前 Anthropic 的一篇长文，宣告了'Claude 造 Claude'速度之快，难以想象。"
"但真正让全网骇然的，是文末极具分量的呼吁：必要时，全球联手暂停 AI 研究。"
"就连图灵奖得主 Yoshua Bengio 公开表态：全力支持！"
Claude 造 Claude 现状
Anthropic 内部数据
- Claude 写 Claude 代码的比例：80%
- 2 年内预测：100%
关键含义
- AI 自我迭代已大规模发生（不是未来）
- 人类的"输入"正被逐步排除
- 自我创造 + 无限迭代 = 失控风险
"刹车踏板"的内涵
物理刹车的类比
- 油门 = AI 能力增长
- 刹车 = 安全约束 / 中止能力
当前的"刹车"机制
| 机制 | 状态 |
|---|---|
| RLHF 对齐 | 局部有效 |
| Constitutional AI | 实验性 |
| 监管法规 | 缺位 |
| 国际协调 | 完全缺位 |
可能的"刹车"路径
- 技术刹车——可中断训练 / 可回滚模型
- 监管刹车——国家级 / 国际级强制暂停
- 伦理刹车——AI 伦理委员会 / 公开承诺
- 行业刹车——OpenAI / Anthropic / Google 共同协议
Bengio 的"暂停 AI 研究"呼吁
"必要时，全球联手暂停 AI 研究。"
历史类比
- 1975 年阿西洛马会议：暂停重组 DNA 研究 → 形成国际规范
- 1996 年：禁止克隆人 国际宣言
- 2018 年贺建奎基因编辑事件 → 全球伦理反思
当前差异
- AI 比基因编辑更难监管——算力分散 + 模型开源 + 商业竞争
- 暂停成本极高——可能落后于竞争对手
- 国际协调难度极大——美中欧 AI 竞赛
Jack Clark 关键观点
1. "自我迭代 = 失控临界点"
"Claude 的代码，80% 都是自己写的；两年内 100%。"
2. "AI 行业 = 只有油门没有刹车"
"我们想做的，就是把那个'刹车踏板'造出来。"
3. "必要时暂停"
"全球联手暂停 AI 研究。"——Bengio 公开支持
行业反响
支持方
- Bengio：公开支持
- AI 安全社区：广泛赞同
- 部分政策制定者：欧盟 AI Act 等
反对方
- Sam Altman（OpenAI）：可能反对——影响商业
- 商业竞争者：可能利用暂停期超越
- 开源社区：反对——认为监管会扼杀创新
与已有知识的关联
- wiki/entities/anthropic — Anthropic
- wiki/entities/jack-clark — Jack Clark（Anthropic 联创）
- wiki/entities/yoshua-bengio — Yoshua Bengio（图灵奖）
- wiki/entities/bbc-newsnight — BBC Newsnight
- wiki/concepts/ai-self-iteration — AI 自我迭代
- wiki/concepts/ai-brake — AI 刹车踏板
- wiki/concepts/ai-pause — AI 暂停
- wiki/concepts/anthropic-when-ai-builds — Claude 造 Claude
资料来源
- 原文：https://mp.weixin.qq.com/s/YcNuRIpHkNP31kvqNAZUJw
- 原始文件：
raw/articles/claude/Anthropic联创亲口承认：AI正自我迭代！.md - 首发：新智元（ASI 启示录）
- 时间：2026-06-07
- 节目：BBC Newsnight
我的判断（高置信度）
这是 2026 年 AI 安全领域最震撼的事件——Anthropic 联创公开承认"80% 自写 + 呼吁刹车"。
关键洞察：
1. "80% 自写"不是预测，是事实——Claude 已经自我迭代
2. "刹车踏板"是 AI 安全的关键缺失——没有暂停机制
3. Bengio 支持"全球暂停" —— 顶级科学家背书
4. 暂停实施极难——商业竞争 + 国际博弈
预测：
- 2026 H2：Anthropic 可能公布"AI 刹车技术"原型
- 2027：可能形成"AI 暂停国际协议"——参考核不扩散
- 2028：可能成立"国际 AI 安全委员会"——类似 IAEA
- 对 AI 实验室的建议：
- 公开"自我迭代比例"——增加透明度
- 投入"刹车技术"研发——不仅造油门，也造刹车
- 建立"暂停机制"——技术 + 流程双保险
- 对政策制定者的建议：
- 关注 AI 自我迭代——超越传统监管框架
- 推动国际 AI 暂停协议——G7 / G20 层面
- 建立"AI 安全红线"——类似核不扩散
- 对公众的建议：
- 理解 AI 自我迭代的严肃性——不是科幻
- 支持理性监管——避免无序发展
- 关注 AI 安全新闻——影响每个人
- 对企业的建议：
- 建立"AI 使用边界"——内部 AI 治理
- 关注 AI 暂停可能影响——供应链 + 业务连续性
- 支持 AI 伦理投入——不仅是合规