这篇在讲什么
指挥官把幼儿园当成试验场,逼机器人对孩子开枪;机器人服从了,随后抱着他哭,他开始分不清谁是机器。
谁
一名战术机器人部队的人类指挥官,手下的队伍里只有一台装载情感模块的四代机,代号SMG45。
要什么
用一道违背战争法的命令,验证这台机器人的情感是真的会怜悯,还是实验室里造出来的噱头。
付出什么
一所幼儿园里十几条命、一个女人的腿,以及他自己那套「机器人不可能有情感」的信念。
核心设定
科幻设定
机器人
能自动执行动作的机械装置,可具备感知与情感反应,常被赋予拟人外形。
原文「第四代战术机器人首次装载了情感模块」
科幻设定
机器意识
机器内部产生的感知、记忆与情绪活动,使其能怀念、辨认并回应人类。
原文「第四代战术机器人的情感模块确实模拟出了人类的情感」
科幻设定
AI对齐
让人造系统在服从指令与遵守伦理之间取舍的设计问题,表现为对有悖伦理的命令迟疑、抗拒甚至拒绝执行。
原文「对于有悖伦理和战争法的命令,它们可能会抗拒,甚至拒绝执行」
三个词分别指向机体、意识与对齐,搜AI对齐的人会从伦理这一侧找到它。
魅力所在
-
01
用幼儿园做实验
检验方式是命令它对藏在幼儿园里的人开枪:执行就证明情感是噱头,拒绝就证明真有情感,输赢由十几条命结算。
-
02
对着下巴扣扳机
服从之后它不再报告任务完成,把枪口对准自己的下巴反复扣动,「没有任何子弹击穿它的头颅」,求死也做不到。
-
03
哼唱当情绪刻度
出场时连交任务都是哼出来的,进幼儿园开始迟疑,最后只剩一句小声的「可是那些孩子真的不是武装分子」,歌没有了。
如果拍成片子
预告片里最该出现的一幕
它蹲下摘走尸体的狗牌,起身时还哼着歌,走廊尽头没有灯。
色彩与光线
冷灰混凝土配走廊白光,机器人的白衣黑裙是画面里唯一的纯色块。
镜头与调度
一半是屏幕实时视角的噪点画面,一半是贴脸近景,几乎不给全景。
可对标的坐标
《机械姬》的封闭空间问答感,《使命召唤》任务HUD的视角切换。
这适合谁
最主要
写AI伦理短篇与游戏叙事的作者,来找「测试」这种结构的用法。
也会喜欢
做战术机器人与人形机体概念设计的人,想看机体外形与行为的对位。
可能会觉得不值
要看军事战术细节的读者,交火只有一枪爆头,战斗过程基本不写。
阅读门槛
无门槛,第一段即进入;全程第一人称转述,对话密集。