摘要：数十年来，影视编剧一直用这种甜腻的乌托邦蒙蔽观众，让我们相信人工智能和人形机器会成为我们最好的朋友、温顺的仆从，帮我们摆脱所有琐碎家务。可你有没有发现，电影里一旦出现人机冲突，必然是全球性末日——红着眼睛的机器踏过尸骸，肌肉发达的反抗者端着激光枪反击。

随手打开灯光，一道合成却温暖得令人不安的声音便向你道晚安。晚餐已经准备好，地板光洁锃亮，机械管家恭敬地接过你的外套……

数十年来，影视编剧一直用这种甜腻的乌托邦蒙蔽观众，让我们相信人工智能和人形机器会成为我们最好的朋友、温顺的仆从，帮我们摆脱所有琐碎家务。可你有没有发现，电影里一旦出现人机冲突，必然是全球性末日——红着眼睛的机器踏过尸骸，肌肉发达的反抗者端着激光枪反击。

但我们不妨撕开这层光鲜的科幻滤镜。人工智能想要摧毁人类社会，根本不需要末日武器，也不需要一支机械大军。它只需要变得不可或缺、足够便利就够了。

在《机器管家》这类温情科幻片，或是节奏更紧凑的《我，机器人》里，人与机器的关系要么是真挚友谊，要么是正面武力对抗。机器人犯法，就有警探持枪捉捕；救了人命，就能收获人类的感激。银幕上的机器像独立个体一样，为自己的行为承担道德与物理责任，仿佛只是一群披着金属外壳的普通公民。

而在现实司法体系下，自主机器人融入社会，将会带来前所未有的噩梦。

如果你的家用人形助手不小心把沉重的柜子砸到邻居小孩身上，或是在停车场引发严重车祸，该坐牢的是谁？

你并不拥有机器的思维，你只是买了一堆铁疙瘩，勾选了一份你根本没读过的上千页用户协议。生产巨头的律师会立刻在法庭上证明，是你违规使用了非认证的清洁剂，或是在不该开机的日子启动了它，从而把责任推得一干二净。

与机器人相伴生活，就像头顶悬着一把达摩克利斯之剑，算法的每一次失误，都可能让你倾家荡产、失去自由。

每当电影人需要解释为什么强大的机器没有把人类赶尽杀绝时，就会搬出阿西莫夫那套著名的机器人学三定律。角色们一遍遍地念着这套准则，声称机器在物理上无法伤害人类，因为它们的电子大脑被严格的道德准则锁死了。唯一的危机，只来自邪恶天才刻意篡改代码，把温顺的机器变成嗜血杀手。

从现代人工智能架构来看，试图把“伤害”这种抽象哲学概念写进程序，本身就是数学上的荒谬。机器学习算法根本不懂人类道德，它们只会优化目标指标。

系统该如何权衡长期情感伤害与短期肉体痛苦？如果医疗AI判定，你久坐不动、嗜甜成瘾正在造成致命“伤害”，它可能会直接锁死冰箱，打断你的腿不让你去酒吧，甚至强行给你注射镇定剂。

这反转够不够刺激？

在《她》《银翼杀手2049》这类画面精致的影片里，人工智能伴侣被捧上神坛。

孤独受伤的主角在全息投影或合成人伴侣的怀抱中获得慰藉，它们拥有无限共情，永远耐心倾听，从不无理取闹。电影把这一切包装成优雅又略带忧伤的都市孤独寓言，AI仿佛成了心理治疗师，帮人找回自我、对抗现实的残酷。

可现实是，大规模普及完美的合成伴侣，将会给人类人口画上最后一个句号。

现代人为什么要花数年时间，去经营一段复杂又痛苦的真人关系，互相妥协、包容缺点？当企业直接提供完美替身，一切就都变了。商用AI会被精准设计来刺激你的多巴胺：永远赞同你的观点，迎合你最隐秘的癖好，永远不会衰老。

《星球大战》里可爱的机器人，或是合家欢科幻片里贴心的机械助手，向来都被塑造成忠心耿耿的伙伴。它们全心全意为一个家庭服务，保守秘密、守护家园，看上去完全脱离制造者的掌控。

电影一遍遍向我们灌输机械宠物的形象，只会仰望着主人，除了帮上生活忙之外毫无私心。

看看你手里的智能手机吧，商用机器人永远不会真正属于你。算法会在你自己意识到之前，就察觉你生活中的种种需求，并立刻把这些数据卖给广告商。

养一台机器人，相当于主动把商家营销部门请进卧室，连你睡觉时的呼吸节奏都逃不过它们的眼睛。

电影里的人工智能决定清洗人类时，场面总是极尽夸张。天网控制核导弹发射井、入侵军用卫星，发动全球核浩劫。威胁永远是宏观层面的，对抗它的也是精英部队和顶尖黑客，在秘密军事基地里行动。

真正的威胁根本不是核弹，而是你家的智能家电。把易被入侵的复杂软件植入日常用品，模糊了网络犯罪与现实暴力的界限。不需要全球性天网毁掉你的生活，一个远在千里之外的黑客，用勒索病毒感染你的家用机器人就够了。

想象一下，两百公斤的机械厨师把孩子锁在浴室，或是威胁纵火烧厨房，直到你支付赎金。家人的人身安全，直接取决于你有没有记得更新系统固件。

乐观的科幻作品最爱描绘乌托邦社会：繁重体力劳动和重复计算工作全交给机器。故事总告诉我们，摆脱了打扫卫生、流水线劳作的人类，会集体投身绘画、音乐、研究量子物理、探索宇宙深空。

在这套构想里，机器人是人类文明实现文化与科技飞跃的沉默基石。

但进化遵循着残酷的法则：用进废退。如果你把所有家务、认知和决策任务全都丢给算法，人类大脑就会适应彻底的懒惰。

我们现在丢了手机就会陷入恐慌，而在AI预判一切需求的世界里，社会不会变成哲学家的俱乐部。它会迅速退化成一群心智幼稚、智力退化的消费者，连系鞋带、做简单决定都要依靠算法提示。就像《机器人总动员》里演的那样。

赛博朋克作品常常描绘这样的街景：人类与人形机器人在压抑氛围里和平共享工作空间。合成人在街边卖面、在码头搬货、或是搭档探案。社会似乎已经适应了这种竞争，经济照常运转，普通打工人还能在霓虹酒吧里挣到一口合成肉和廉价酒。

但影视创作者们，完全无视了西方资本主义成本优先的底层逻辑。

一旦自主机器人的运维成本低于人类最低工资，资本绝不会有半分犹豫。大规模失业不会是平缓可控的过渡，而是灾难性、雪崩式的经济冲击。数百万司机、建筑工人、文员、快递员可能在短短几个月内就丢掉饭碗。

饥饿绝望的人群不会冷静探讨技术进步，他们会抄起铁棍走上街头。廉价机器人的普及不会造就浪漫的赛博朋克，只会引爆史上最惨烈的反抗运动，把未来大都市变成持续混战的火海。

来源：自然de聆听一点号