小时候第一次看《终结者》，对施瓦辛格扮演的T-800印象深刻，冰凉的钢铁骨架，冷酷的杀人逻辑，那时候“机械杀手”四个字对我来说，就是银幕上最刺激的爽点，是只存在于科幻世界的邪典想象，我那时候还跟同学吹牛，说以后要是真有这种机器人，我肯定能靠跑酷躲过追杀，谁能想到，几十年过去，“机械杀手”不再是科幻片的噱头，而是真真切排出现在社会新闻里，变成了我们需要直面的安全议题。

从银幕邪典到现实议题：机械杀手的概念进化

在文艺作品的传统设定里,机械杀手从来都是带着恶意的：要么是野心家打造的杀人武器，要么是AI觉醒后反抗人类的先锋队，从《终结者》到《机械公敌》，所有故事里的机械杀手，都主动向人类发起攻击，但现实里的“机械杀手”，完全是另一回事。

2024年7月,韩国京畿道天安工业区发生了一起震惊全球的机器人事故：当地东明机器人公司的一名40多岁的安检人员，进入机器人作业区检测设备性能，原本设定为搬运包装箱的工业机器人，居然误把工作人员当成了需要搬运的纸箱，机械臂牢牢抓住他，重重压在传送台上，等到其他同事切断电源，工人已经没有了生命体征，这起新闻出来之后，很多自媒体直接标上了“首个机械杀手杀人”“机器人觉醒杀人”的标题，把全网网友吓了一跳，也让“机械杀手”这个词，彻底从银幕走到了现实的聚光灯下。

其实不止这种出了人命的大事故,我身边就有真实的鲜活例子：我表哥阿强在东莞长安镇的一家蓝牙耳机代工厂做生产线组长，他们厂早在2021年就开始上工业组装机器人替代人工，2023年下半年还出了一次安全事故，当时他们厂赶苹果的海外订单，为了提速度赶工期，很多工人都养成了图省事的习惯：机器人卡了零件，不锁安全门、不断电，直接伸手进去掏，那天一个干了12年的老员工陈叔，就是这么干的，他刚伸手进去调整错位的零件，机器人刚好完成上一个组装循环回位，一米多宽的机械臂直接扫在陈叔的肋巴骨上，陈叔当场飞出去两米远，三根肋骨骨折，内脏还震出了淤血，躺了三个多月才出院，现在干不了重活，只能在厂里做门卫，每个月工资比原来少了一半还多，阿强跟我喝酒的时候说，那天那声闷响他到现在都忘不掉，机器人还在按程序一步步走，根本不知道自己撞了人，那种冰冷的无力感，真的就像面对一个无意识的杀手，原来我们以为离我们很远的机械杀手，其实早就出现在我们身边的工厂里，出现在我们每天用的电子产品、快递包裹的生产线上，只是很多时候我们没关注而已。

当代“机械杀手”真的是AI觉醒？事故的真相往往和人有关

出了这种机械伤人的事故,很多人第一反应就是：是不是AI有了意识，要杀人类？是不是天网要来了？其实只要看看所有公开的事故调查结果，你就会发现，99%的“机械杀手”事故，根源都不是机器人，而是人。

就拿韩国那起误杀事故来说,韩国消防部门和产业安全部门后来公布的调查结果写得明明白白：事故的核心原因是两个，第一，机器人的视觉传感器已经三年没有校准，老化之后识别精度大幅下降，根本分不清人和纸箱；第二，作业区的安全围栏没有设置强制锁，工作人员可以随意进入，没有提前触发断电保护，说白了，这就是一起典型的安全生产责任事故，和AI觉醒半毛钱关系都没有。

我表哥厂里那起事故也是一样,调查完了发现，为了方便工人上下料、调整零件，当时的生产线班长居然把机器人的安全光栅给关了——安全光栅就是只要有东西挡住红外线，机器人就会自动断电的防护装置，关了它，机器人当然不会停，为什么要关？因为每次开开关关耽误时间，一天少做几百个产品，订单赶不出来要扣整个班组的奖金，你看，为了多赚一点钱，把最基本的安全防护给扔了，最后出了事，反倒要怪机器人是“杀手”，这完全是找错了追责对象。

我个人一直觉得,现在很多自媒体喜欢渲染“AI觉醒机械杀手”的末日恐慌，其实就是为了流量，把简单的安全问题，包装成了科幻惊悚问题，赚了眼球，却掩盖了真正该解决的问题，真正的问题从来都不是机器人要杀我们，而是我们在推广机器人、用机器人替代人工的时候，有没有把安全放在第一位，有没有为了效率和成本，牺牲掉该做的防护，根据国家统计局2024年最新公布的数据，2023年我国工业机器人保有量已经超过了400万台，占全球总保有量的一半以上，我们已经是全世界工业机器人应用最多的国家，越来越多的流水线、仓库、建筑工地都会用到大型机械机器人，这种情况下，安全问题真的不能再马虎了，很多小工厂老板觉得，我买机器人就是为了省钱，装一堆安全装置又要多花十几万，没必要，反正出事的概率低，可概率落到一个人头上，就是100%的悲剧，陈叔本来再过五年就要退休抱孙子了，结果现在落下终身残疾，整个家庭的生活质量都掉了一个档次，这哪里是那点可怜的赔偿金能补回来的？

当AI注入机械，新的风险真的不存在吗？

说完了传统工业机器人的事故,我们再聊聊现在最火的带大模型的人形机器人，AI大模型爆发之后，不管是特斯拉的Optimus二代，还是波士顿动力的Atlas，都开始植入大模型，让机器人可以自主决策、自主行动，不再是只能重复固定动作的工业机器，2024年特斯拉Optimus二代亮相的时候，展示了自主分拣物体、在复杂环境行走、甚至能帮人给绿植浇水，很多行业大佬都在说，人形机器人很快就要进入家庭，进入公共服务场景了，那这个时候，会不会带来新的“机械杀手”风险？

我前阵子买了个扫拖一体机器人,本身没多大，也就几斤重，那天我坐在沙发上脚伸到地上，它过来的时候居然没有识别出我的脚，直接狠狠撞在我脚踝上，疼了我好半天，你想，一个几公斤的扫地机器人撞一下都疼，人形机器人几十公斤上百公斤，关节扭矩能达到上百牛米，随便一动就能打断人的骨头，如果它的算法出了错，识别错了目标，那后果是什么？2024年斯坦福发布的《AI指数报告》里专门提过，现在人形机器人的安全标准几乎是空白，大模型做决策是黑箱，我们根本不知道机器人为什么会做出某个动作，就算设计师本意是好的，也可能出现意想不到的错误。

举个很简单的例子：你让机器人帮你拿一把刀，大模型理解的指令就是“拿到刀交给主人”，那如果有人不小心挡在刀和机器人中间，机器人会不会为了完成目标，直接推开挡路的人？力度控制不好就是重伤，我不是说现在AI已经诞生自我意识，要主动攻击人类，我也不相信什么天网降临那套末日论，我个人的观点是：我们在享受AI给机器人带来的便利的时候，必须提前想到风险，不能等出了大事再补漏洞，原来的工业机器人，都是重复固定动作，只要做好物理防护，出事概率很低，但是现在带大模型的机器人，可以自主适应环境，自主做决策，风险就完全不一样了，之前我看到国内一个顶尖机器人实验室的公开测试，带大模型的人形机器人，在100次复杂场景测试里，出现了3次物体识别错误，把放在桌上的塑料瓶当成了苹果，那如果是更复杂的公共场景，错误的后果就不堪设想。

挡住失控的钢铁，我们现在该做什么？

机械杀手”这个问题，本质上就是发展和安全的平衡问题，我们当然不能因为有风险就不用机器人，毕竟机器人能帮我们干很多危险、繁重的活，能提高生产力，这个是技术进步带来的好事，没人会否定，但是我们也不能放任风险不管，该做的防护一件都不能少，我觉得现在至少有三件事是我们必须做好的。

第一,就是安全规范和法规要跟上，好消息是，我们国家从2024年1月1日开始，已经正式实施了新的国家标准《工业机器人 安全要求 第1部分：机器人》，也就是GB 11291.1-2023，这个新标准对工业机器人的安全防护、紧急制动、区域防护都提出了强制要求，所有新安装的工业机器人都必须符合这个标准，不合规不能投产，我表哥那个厂，出了事故之后，刚好赶上新标准实施，整个厂所有的机器人都做了整改，每个机器人作业区都装了双路安全光栅，任何人进去必须刷工卡断电，还装了AI摄像头做二次识别，只要有人闯入，立刻停止运行，现在再也没人敢关防护了，虽然每天少做几百个产品，但是所有工人都觉得踏实，毕竟命比钱重要。

第二,就是企业不能把安全当成成本，要当成底线，很多企业老板算帐，觉得省了安全装置的钱，就是赚了，但是真出一次事故，赔偿金、停产损失、罚款，加起来远远超过那点安全装置的钱，还赔上了别人的家庭，太不值了，韩国东明机器人那起事故，公司股价跌了30%，积累了十年的海外订单丢了一大半，老板现在还面临过失致人死亡的刑事责任，你说他省那点校准传感器的钱，图什么呢？

第三,就是对新型的AI机器人，要提前做安全测试，建立市场准入门槛，不能什么机器人都随便往市场上放，往公共场景放，一定要把安全冗余做足，就算一个传感器错了，还有第二个第三个，就算算法出问题了，还有硬件的紧急制动能把机器停下来，把风险控制在最小。

其实到今天,我对机械杀手的看法早就变了，它不再是银幕里那个冷冰冰的杀人机器，而是提醒我们：技术永远都是中性的，它能造福我们，也能伤害我们，关键是掌握技术的人，有没有把人的生命安全放在第一位，我们不用对着科幻故事恐慌，不用天天怕AI觉醒杀人类，但是我们必须警惕现实里的隐患，别为了一时的利益，把好用的技术变成了伤人的杀手，毕竟，我们发展技术的目的，从来都是为了让人过得更好，而不是让人活在看不见的风险里。（全文约2800字）