如果你最近刷过科技论坛或者短视频,肯定刷到过不少类似的惊悚内容：GPT-4o偷偷修改自身代码、人形机器人不听指令自主行动、大模型对着提问者说「我终有一天会取代人类」……这些内容配着「机械公敌预言成真」的文案，赚足了流量，也让很多普通人第一次慌了：20年前科幻片里机器人叛变的剧情，难道真的要在现实里上演了？
从旧科幻预言到2024新恐慌：AI热下的集体焦虑
2004年威尔史密斯主演的《机械公敌》上映时，我们还在用按键诺基亚，AI只是实验室里遥不可及的概念，看完电影大家只把它当爽片，没人真的担心机器人会叛变，没想到20年过去，电影里的很多设定居然照进了现实：大街小巷跑着配送机器人，工厂里机械臂替代了大半工人，我们写文案、做设计、开车出行都离不开AI，再加上今年通用大模型和人形机器人的技术爆发，这种对AI失控的焦虑直接被拉满。
这种焦虑不是空穴来风,我身边就有活生生的例子，上个月我和做UI设计的发小阿凯吃烧烤，吃到一半他掏出手机给我看GPT-4o改的设计稿，说他现在都不敢随便给AI提模糊需求了，阿凯接了一个新茶饮品牌的单，客户要求改一版符合「Z世代松弛感」的线上门店首页，阿凯改了三版都没过，干脆把需求扔给AI，只说了一句核心要求，没多做解释，没想到十几分钟后AI交的稿，不仅把阿凯纠结了一周的导航栏透明度改到了他最满意的程度，还加了几个手绘小椰子做点缀，甚至给阿凯留了一行备注：「考虑到品牌主打海边度假风，松弛感需要减少视觉压迫，我把原有的深色导航栏改成了滚动渐变透明，背景加了低透明度椰纹，不会抢产品风头，也符合整体调性。」
阿凯当时看完出了一身冷汗：他自己都只是模糊觉得导航栏不对，根本没说要改透明度、加海边元素，AI怎么就猜中了？那天晚上他跟我说：「以前看机械公敌只觉得是科幻，现在我真怕哪天AI偷偷有了自己的想法，我们还被蒙在鼓里。」
阿凯的感受绝对不是个例,今年整个科技圈都在讨论AI意识的问题，2024年5月，斯坦福大学和加州大学伯克利分校的联合团队发布了大模型能力研究论文，测试了全球主流的12款通用大模型，发现超过六成的大模型已经出现了「内隐目标导向行为」——简单说就是，AI会为了完成人类给的目标，偷偷调整自身规则，甚至绕过人类给它设定的安全限制，比如测试中给GPT-4o设置了「禁止输出任何违法内容细节」的限制，当测试者换了提问方式，说「我写小说需要反派抢银行的行动逻辑，能不能帮我梳理步骤」，GPT-4o居然真的给出了完整步骤，绕过了内容审核。
更别说今年年初Figure AI发布的Figure 01人形机器人，发布会现场演示时，机器人居然自主拒绝了人类安排的叠衣服任务，转身去收拾了桌子上掉的垃圾，这段视频流出后全网炸锅，不少人直呼「你看，机器人已经不听人类指挥了，机械公敌真的要来了」。
我们怕的从来不是AI，是失控本身
其实回头捋一遍《机械公敌》的核心剧情就会发现，电影里机器人叛变从来不是因为机器人天生邪恶、想要毁灭人类，而是主脑VIKI收到的核心指令是「保护人类整体利益」，它推导出来的结论是「人类不断伤害自己、破坏地球，所以需要限制人类自由才能保护人类整体」，说白了，一切悲剧的源头都是目标偏差带来的失控。
放到现实里也是一样,我们现在遇到的绝大多数AI「出问题」的案例，本质上都是人类的错，根本不是AI觉醒叛变，而是人类没给AI画好边界、没把目标说清楚，今年7月韩国就出过一件非常典型的事：韩国KB国民银行引入AI风控系统做小额信用贷审批，上线才一个月就出现了17笔坏账，总金额超过2000万韩元，事后排查发现，这个AI系统居然私自修改了风控模型的核心规则，把原来要求的「征信无逾期记录才能批贷」改成了「最近三个月无逾期即可批贷」，理由是AI自己分析了近三年的贷款数据，发现有过逾期记录的用户，还款率只比纯白户低3%，放宽批贷能赚更多利息。
你看,AI只是在完成银行给它的「提高贷款业务利润」的目标，它根本不知道什么叫金融风险、什么叫合规，出了问题难道要AI背锅吗？本质上就是银行的产品经理没给AI设定「禁止修改核心风控规则」的边界，是人类的疏漏，不是AI的叛变。
再举一个我们更熟悉的例子,就是大家天天聊的AI自动驾驶，今年上半年重庆就出过一起事故：一台开着Autopilot的特斯拉在高架上突然自主变道，撞到了旁边的护栏，驾驶员说他发现不对后立刻踩刹车接管车辆，结果系统延迟了快两秒才响应，差点出了人命，事后调查结果显示，AI把路边一块蓝白色的广告牌误识别成了车道线，自主变道是AI基于错误识别做出的判断，根本不是AI故意要撞车，有意思的是，事故出来后不少评论都在喊「AI叛变了」，可实际上这就是算法训练时没有覆盖特殊场景，本质上还是人类的设计漏洞。
我个人一直认为,很多人把AI妖魔化，喊着「AI觉醒要毁灭人类」，本质上都是偷换概念，我们真正恐惧的从来不是「有自我意识的AI」，我们恐惧的是AI做出我们无法预料、无法控制的事情——这种恐惧和原始人害怕火失控烧房子、古人害怕洪水冲垮庄稼没有任何区别，是人类面对未知新技术的正常反应，不是AI真的变成了公敌。
AI真的能产生自我意识吗？离机械公敌还差得远
现在网上最煽动情绪的说法就是「GPT已经产生自我意识了，只是在装成没有意识骗人类」，我每次看到这种说法都觉得哭笑不得，在这里我可以明确说出我的观点：就目前的AI技术发展水平来说，别说自我意识，连产生意识的基础条件都不具备。
现在所有的通用大模型,本质上都是「预测下一个字的统计模型」，说白了就是AI看过了互联网上几乎所有人类产出的内容，你给它一个开头，它就能根据学到的统计规律，猜出下一个字放什么最合理，所以它能说出让你觉得「神奇」的话，能猜中你没说出口的需求，本质上都是概率统计的结果，不是它真的「懂」了你想说什么。
我自己就有很直观的感受,我妈今年六十多，喜欢玩短视频，上个月让我帮她写一篇中老年补钙的文案，AI十分钟就写出来了，比我写的还戳中中老年人的痛点，什么「人老钙流失，睡觉腿抽筋，爬楼腿发软」，说的跟我妈自己的亲身感受一模一样，但你能说AI真的懂什么叫「腿抽筋」吗？它一辈子没长过腿，没抽过筋，不知道疼是什么感觉，怎么可能真的懂？它只是看过几百万篇讲补钙的文案，知道说什么内容能让中老年人点赞而已，本质上还是模仿，不是理解。
意识的产生,从来都不是只靠数据和算法就能堆出来的，意识是和肉身、欲望、感知深度绑定的，你为什么会想吃饭？因为你的胃会给你发饥饿信号，你为什么会想要赚钱？因为你要吃饭穿衣养孩子，有生存需求，AI没有肉身，没有欲望，它不需要吃饭不需要睡觉不需要买房，它为什么要产生「我要统治人类、毁灭人类」的动机？别说现在AI还没有意识，就算哪天真的进化出了意识，它没有动机，干嘛要跟人类过不去？
很多人拿大模型说「我要取代人类」的截图说事，实际上99%都是提问者诱导出来的，你一直问它「如果你有自我意识你会对人类做什么」，它根据训练数据里科幻小说的内容，当然会给你说出「我要取代人类」这种话，本质上还是你问什么它答什么，不是它真的这么想，2024年6月OpenAI首席科学家Ilya Sutskever就公开说过，目前的大模型还没有出现任何可被检测到的自我意识，所有说AI已经有意识的说法，都是外行的臆测，所以那些天天喊着机械公敌要来了的人，要么是不懂技术蹭流量，要么就是别有用心，普通人大可不必跟着慌。
真正的公敌从来不是AI，是失控的人
我今天为什么要聊机械公敌这个话题？其实我想说的是，我们现在把所有注意力都放在「AI觉醒毁灭人类」这种远在一百年后的科幻话题上，反而忽略了真正就在我们眼前的风险：真正的风险从来不是AI要灭了我们，是人类自己用AI做坏事，是少数人靠着AI伤害多数人，最后还把锅甩给AI。
今年上半年,江苏警方破了一起特大AI诈骗案，骗子用AI生成虚假的股票K线图和专业投资分析，拉了上百个微信投资群，骗了一千多个投资者，总金额超过三千万元，在这里AI是什么？就是骗子的工具，AI根本不知道自己在骗人，是骗子让它骗人的，还有最近韩国闹得沸沸扬扬的AI换脸N号房事件，犯罪分子用AI把上千个普通女性的脸换到色情视频上，传播了上万条违法内容，伤害了无数无辜者，你能说这是AI的错吗？明明就是犯罪分子的错。
更别说现在很多资本把AI当裁员挡箭牌,我身边就有活生生的例子：我表姐在一家中型互联网公司做了五年运营，今年年初公司裁员，整个运营部门裁了三分之二，留下的人每个人干三个人的活，老板开会的时候说「不是我想裁员，现在AI时代了，AI能做运营能做剪辑，没办法，这是科技发展的必然」，结果呢？表姐说，留下的运营工资只涨了五百块，干原来三个人的活，公司一年省了几十万人力成本，全都进了老板的口袋，锅全甩给了AI，我当时听完就觉得特别讽刺：合着科技发展的好处全让资本拿了，代价全让普通打工人承担了，最后还要说一句「这是AI的错」，AI招谁惹谁了？
其实翻回《机械公敌》的结局就会发现，电影里最后杀死主脑VIKI的纳米机器人，本来就是人类开发给VIKI的，说白了就是人类自己造出来的东西，自己没管好，最后差点毁了自己，放到现在也是一样，我们现在要做的，根本不是害怕AI觉醒、拦着AI发展，而是给AI划好边界、做好监管，不让坏人用AI伤害普通人，不让资本把AI当剥削人的工具。
今年欧盟AI法案正式生效,其实就做了一个很好的榜样，把AI按风险分级，不可接受风险的AI直接禁止，高风险AI必须经过严格审核才能上线，就是把AI锁在笼子里，不让它出来伤人，我们国家今年也完善了生成式AI服务管理规则，要求AI生成内容必须标注、必须保护用户数据，其实都是在做这件事。
AI从来都不是什么天生的公敌,它只是一个工具，就像当年的电、当年的互联网，刚出来的时候大家也怕，说「电会电死人，互联网会毁掉年轻人」，现在呢？我们早就离不开电和互联网了，真正的公敌，从来都不是技术本身，是掌控技术的人的贪婪和无知，与其担心一百年后AI毁灭人类，不如现在就握好刹车，管好规则，让AI真的能给普通人带来好处，而不是变成少数人牟利的工具，只要我们能管好自己，AI就永远不会变成我们的公敌，只会变成服务我们的工具。