被这两天的新闻吓到了！全球超过3000名顶尖科学家和科技大佬突然联名发出紧急呼吁，要求立刻暂停高级人工智能的研发！ 发起这事儿的是个叫未来生命研究所的机构，2014年就成立了，专门盯着那些能改变世界的技术有没有风险，这次算是把警报拉到最响了。 光看签名的人就知道多有分量，被称作“AI教父”的杰弗里·辛顿，这人拿过诺贝尔奖，现代AI的底子好多都是他铺的，去年九月还说“普通人用AI造生物武器不是瞎想”，现在也直接签了名。 还有造苹果手机的联合创始人史蒂夫·沃兹尼亚克、维珍集团的老板理查·布兰森，连马斯克、图灵奖得主约书亚·本希奥这些大名鼎鼎的人物都在里头，活脱脱科技圈的“联名逼停大戏”。 他们要的可不是“歇两天再干”，而是明明白白让所有AI实验室立刻停下训练比GPT-4还强的系统，至少停6个月，还得公开透明，能让人查、能验证；要是企业不配合，就盼着政府出手强制叫停。未来生命研究所的泰格马克说得特实在：“这就是场自杀式的竞赛，就算赢了也没用，人类搞不好就丢了对自己命运的控制权。” 这份担心真不是瞎琢磨。辛顿这半年老提，现在的AI已经够“聪明”了，跟它聊天能明显感觉到它懂你，而且只会越来越强，但人类根本摸不透这些“数字大脑”在想啥。更实在的风险已经摆到眼前了，就在10月28号，北京通州法院刚判了个官司，原告的代理人居然把AI编的假司法案例当证据交上去，差点就蒙了法官，这就是AI的“幻觉”坑，它自己编瞎话还当真，普通人根本分不清真假。 呼吁信里还点透了最让人揪心的，要是AI被用来发假消息、把工作全自动化了，甚至发展成比人类还聪明的“非人类思维”，谁能管得住？就像有人担心的，现在只是编个案例出错，将来要是在医疗、金融这些关键领域出问题，那后果可就不是“代理意见没被采纳”这么轻了。 不过这事儿也不是所有人都站一边，元宇宙的首席AI科学家杨立昆就不服气，说ChatGPT这类模型根本没法真正跟物理世界互动，算不上真的智能。更有意思的是美国那边，特朗普刚上台就把拜登之前的AI监管规定撤了，还搞了个5000亿美元的“星际之门”计划，催着企业赶紧建AI的基础设施，跟这边“暂停呼吁”完全拧着来。 咱们国家的态度倒很明确，10月29号刚通过的《网络安全法》修改决定里特意加了一条：既要支持AI技术研发和建基础设施，又得把伦理规范弄好、加强安全监管——说白了就是不搞“一刀切”的暂停，但必须把风险的笼子扎紧。 其实这些大佬也不是要彻底禁了AI，就是想从“失控的竞赛”里踩一脚刹车，用这6个月搞出一套大家都能用的安全协议，让独立专家盯着，别等出了大问题再后悔。毕竟技术是好东西，但要是没管好就往前冲，真可能像有人说的，还没享到好处呢，先栽了跟头。
