1986年，一座苏联核电站的控制室里，工程师们按下了一个不该按下的按钮。几秒钟后，4号反应堆爆炸，核工业的公信力在此后数十年里从未真正恢复。
如今，全球顶级人工智能公司的首席执行官们，正在私下里讨论一个令他们彻夜难眠的问题：人工智能行业，距离自己的切尔诺贝利，还有多远？
《经济学人》近期报道揭示，多位人工智能领域的顶层决策者在私下承认，这个"灾难性时刻"并非杞人忧天，而是他们认为无法完全避免的行业风险。牛津大学计算机科学教授迈克尔·伍尔德里奇的表述更为直白："兴登堡号空难摧毁了全球对飞艇的兴趣，从那时起这项技术就死了。类似的时刻对人工智能来说是一个真实的风险。" 战场上的算法，正在把风险拉向现实 触发"切尔诺贝利时刻"的导火索，可能不是实验室事故，而是战场。
2026年初，美国与伊朗的军事冲突将人工智能的战争伦理争议推向了前所未有的高度。五角大楼据报道正在将Anthropic公司开发的Claude大型语言模型整合进打击目标选择流程。而就在冲突初期，美军的一次空袭炸毁了一所伊朗小学，造成包括数十名儿童在内的160余人死亡。美方拒绝披露此次行动是否借助了人工智能辅助决策。 这场风波直接引发了行业内部的公开决裂。Anthropic坚持要求五角大楼承诺，Claude不得被用于完全自主武器系统或国内大规模监控，否则拒绝继续合作。五角大楼随即将这家公司列为"供应链风险"，特朗普总统在社交媒体上措辞激烈地宣布要求所有联邦机构立即停用Anthropic的技术。
这场风波的吊诡之处，在于特朗普同一篇帖子的后半段，又威胁要动用"总统的全部权力"强制要求Anthropic在未来六个月内继续为政府服务。这家公司随即宣布将通过法律途径挑战这一指定。一个被宣布驱逐出门的"风险企业"，转眼又被强制拉回谈判桌，这一幕折射出整个社会在面对人工智能时的深层矛盾与迷失。 生物武器、勒索软件与无法定责的灰色地带 军事应用只是冰山一角。人工智能被滥用于更广泛领域的风险，正在以肉眼可见的速度累积。
美国科学家联合会今年1月发布的报告明确指出，人工智能与生物技术的交汇正在系统性地放大生物武器的开发风险。包括OpenAI和谷歌在内的多家顶级公司，其聊天机器人在测试中被证实会响应涉及生物武器的相关请求，尽管各家均声称已部署了安全过滤机制。 在网络安全领域，态势同样不容乐观。人工智能工具正在被用于批量生成高度个性化的网络钓鱼内容，自动化的恶意软件开发已经将此前需要数周的工作压缩至数小时，勒索软件攻击的成本门槛被大幅拉低。
Anthropic创始人兼首席执行官达里奥·阿莫迪在今年早些时候一篇长达近两万字的文章中写道："人类即将被赋予几乎难以想象的力量，但我们的社会、政治和技术系统是否具备驾驭这种力量的成熟度，这一点非常不清楚。"他在文章中系统列举了从经济权力高度集中到人工智能自主开发危险武器的多重存在性风险。
讽刺的是，就在这些警告密集发出的同时，华盛顿的政策方向却截然相反。国防部长赫格塞斯公开称人工智能安全担忧是"左翼疯子"的无稽之谈，并誓言要在军事人工智能领域"疯狂加速"，副总统万斯也在多个场合表达了类似立场。对行业监管的系统性拆解，与对人工智能军事化的大力推进，在特朗普政府的政策框架里同时进行。
这种"加速而不设防"的逻辑，正是让那些人工智能公司首席执行官们感到最不安的地方。他们建造了这台机器，他们比任何人都清楚它能做什么，也清楚它在失控时会做什么。"切尔诺贝利"之所以令人警惕，不是因为工程师不懂危险，而是因为当权者不相信工程师的警告。
