特朗普淡化人工智能灭绝风险，OpenAI与Anthropic十余名内部人士呼吁放缓
CNBC 市场 · · 发布于 2026-09-11 · 5 分钟阅读
美国总统特朗普拒绝担忧人工智能可能导致人类灭绝，称若美国不赢得人工智能竞赛将陷入不利境地，并称美国目前领先中国约一年。此前，OpenAI与Anthropic等前沿实验室的十余名研究人员公开警告技术发展过快。Anthropic研究员雅各布·考克森宣布离职，称两家公司正在拿生命赌博，并认为人工智能可能在本十年末杀死所有人。OpenAI研究员贾丝明·王警告加速走向递归自我改进十分危险，首席科学家雅库布·帕乔茨基也担忧无人为机器智能持续快速上升的后果做好准备。同时，共和党与民主党议员推动加强先进人工智能监管，提出《前沿法案》，另有议员提出《禁止人工超级智能法案》，拟在联邦安全规则出台前暂停先进人工智能开发。
特朗普否认灭绝风险
当被问及是否担心人工智能导致人类灭绝时，特朗普回答“不，我没有。”
特朗普强调竞争优先
特朗普称，他担心的是如果美国不赢得人工智能竞争，将处于非常糟糕的位置，并称美国目前领先中国约一年。
前沿实验室内部警告
包括 OpenAI 和 Anthropic 在内的前沿人工智能实验室的一些研究人员，对技术快速发展公开表达担忧。
Anthropic 研究员辞职
Anthropic 研究员雅各布·考克森周二表示，他因担心 Anthropic 和竞争对手 OpenAI“拿我们的生命赌博”而辞职，并称相关建设者认为人工智能可能在本十年结束前杀死所有人。
递归自我改进风险
许多安全担忧围绕模型发展出改进自身表现的能力，即递归自我改进（RSI）。OpenAI 研究员贾斯敏·王称，很难夸大加速走向 RSI 的危险。
OpenAI 首席科学家表态
OpenAI 首席科学家雅库布·帕乔基周六表示，他强烈预期人工智能进展速度可能持续到递归自我改进，并担心没人对机器智能持续快速上升的后果做好准备。
国会监管动向
一些共和党议员已加入民主党人，支持对先进人工智能系统加强监督。众议员杰伊·奥伯诺尔特和洛里·特拉汉计划提出前沿法案，以建立治理先进人工智能模型部署的框架。
暂停开发法案
本月早些时候，参议员伯尼·桑德斯和众议员格雷格·卡萨尔提出禁止人工超级智能法案，拟暂时暂停先进人工智能开发，直到联邦政府建立安全规则。