一个已经开始运转的无主体判决系统
我们谈自动驾驶,最常见的入口是安全:事故率能不能降、传感器够不够准、法规何时完善、责任怎么划分。
但这些问题都绕开了一个更根本的事实:
当必须在毫秒内做出生死取舍时,判决已经发生;
可判决席上,没有任何一个人类主体坐在那里。
自动驾驶不是一个“未来可能发生的伦理难题”。它是第一个在现实道路上规模化运行的——无主体判决系统。空椅子不是比喻,它是结构。
1. 电车难题真正想证明的,从来不是“怎么选”
电车难题被反复讲述,常被误解为:只要思考得足够深,就能找到正确答案。
它真正证明的是相反的东西:
- 在某些极端情境里,伦理判断没有公认解。
- 不同伦理体系(功利主义、义务论、权利论等)都能自洽,却无法统一。
- 因而人类社会长期默认一件事:“我不知道该怎么选”是允许存在的。
这不是懒惰,而是一种伦理现实:有些判断不能被强迫完成。犹豫、迟疑、停顿,甚至退回“我无法承担”,本身就是人类伦理的一部分。
电车难题在哲学里成立,是因为它被放置在一个允许“无解”的空间里。
2. 自动驾驶改变的不是答案,而是“是否允许无解”
工程系统不允许“无解”。
自动驾驶在极端情况下没有资格说:
- 我再想想
- 我不知道
- 交还给人类
- 等一秒钟
它必须输出动作。毫秒级。
而动作意味着什么? - 方向盘打多少
- 刹车多大
- 是否变道
- 是否撞上某个物体
- 谁承担更高的风险
不作为也是作为。保持当前轨迹,也是一种选择。
于是,一个原本被允许“无法回答”的伦理问题,被强行改写成了:
必须执行。
这是断裂点:伦理不再被允许停留在“不确定”,它被迫进入执行链路,变成机器输出。
3. 判决发生了:但谁在判决?这句话无法回答
当动作被执行,伤亡(或幸存)成为事实,社会本能会追问:谁做的决定?
我们把所有看似合理的“判决者”逐一放上椅子,再逐一拿走。
3.1 车主不是判决者
车主没有参与设计、没有参与训练、没有实时控制权,多数时候甚至不知道系统在这一刻依据什么做出动作。
他是使用者,不是裁决者。
3.2 工程师不是判决者
单个工程师不拥有系统行为的完整控制权。模型行为来自数据、迭代、团队决策、供应链组件、测试策略。
责任被拆散到一个无法归属的结构里。
3.3 企业很难成为判决者
企业可以承担合规责任、产品责任、统计意义上的安全责任——但对某一次具体情境的伦理取舍,它通常只能给出流程语言:符合规范、符合测试、符合指标。
伦理被转写为合规,合规不等于判决。
3.4 法律系统无法进入实时
法律只能事后裁量。它无法坐进毫秒级决策链路中。
时间维度上,法庭永远迟到。
3.5 AI 不能成为判决者
AI 没有道德主体资格;不能承担责任;不能被惩罚;不能“悔改”;也不能为自己的理由作证。
它可以执行,但不能承担“判决”的意义。
于是我们得到一个冷的结论(不是价值判断,是结构事实):
判决发生了,但判决席是空的。
我们仍然可以追责,但我们无法找到一个真正的“判决主体”。
这就是“空椅子”在自动驾驶里的现实含义。
4. 那么 AI 到底怎么“选”?判断并没有消失,只是被隐藏
很多人以为:只要不把“科学家/贫民”“总统/老百姓”之类的排序写进代码,系统就不在做价值选择。
这是错觉。
系统不可能“不选”。它只能把选择藏在不同层级。
4.1 规则式判断:价值排序被显式写入
在某些设计中,会出现明确或半明确的目标:
- 最小化总体伤害
- 优先保护车内乘客
- 优先保护弱势交通参与者
- 避免侵入对向车道等硬约束
一旦目标函数被设定,价值排序就已经发生。只是工程语言不会叫它“判决”,它叫“优化”。
4.2 概率式判断:价值排序被埋进数据
更多系统不会写“谁更重要”,它写的是:
- 感知置信度
- 风险预测
- 轨迹规划
- 在不确定性下的期望损失最小化
看起来中立,但它把判断转移到了训练数据与评价指标里。
数据从哪里来? - 人类驾驶历史
- 事故分布
- 道路与城市结构
- 社会现实中的暴露差异(谁更常走路、谁更常骑车、谁更常在夜间出现)
于是现实中的不平等、偏差、惯性,被统计化、自然化、工程化。系统不说“我更保护谁”,它说“这是最优策略”。
4.3 事故叙事:已经执行的选择被重新包装为“无人选择”
当极端情境发生,最常见的语言是:
- 极端边界条件
- 传感器失效
- 识别错误
- 不可避免事故
这些描述可能都真实,但它们共同完成一件事:把“已执行的路径选择”从伦理层面抹去,让它回到“纯事故”。
事故叙事是空椅子的保护壳:它让判决发生,却不必承认判决存在。
5. 我们并非被迫:我们是在默许一个未被明说的交易
为什么这种结构可以成立、可以运行、可以扩张?
因为自动驾驶带来的收益是现实的:
- 总体事故率可能下降
- 人类驾驶本就充满失误
- 即便没有自动驾驶,悲剧也在发生
于是社会在不知不觉中完成了一个交易:
只要整体更安全,我们愿意让系统在极端情况下替我们选择。
但这份交易隐藏了一个代价——它几乎从未被正面讨论:
我们放弃了“必须有人承担伦理责任”的底线。
我们接受:死亡发生时,责任可以被拆散到无人坐席。
这不是阴谋;也不是某个组织的恶意。它是一个缓慢、安静、几乎不可见的制度结果。
6. 空椅子的精确定义:不是比喻,而是可检验的结构
为了避免它变成情绪词,我们给它一个可检验的定义:
当判决必须发生,且以实时执行的方式发生;
但没有任何一个人类主体被允许、也被要求承担这次判决的伦理意义;
空椅子就形成了。
自动驾驶满足这个定义:
- 实时必须执行
- 执行导致不可逆后果
- 责任可追,但判决主体不可定位
它不是“将来可能”;它已经在道路上运行,只是大多数时候我们不把它叫作“判决”。
7. 蚕食路径:判决权不是一次性交出去的,而是一段段交出去的
最危险的转变从来不是激烈的。最危险的转变是“合理的”。
判决权的让渡,往往经历这样的链路:
- 建议系统:我给你提示(驾驶辅助)
- 接管片段:我替你执行某些动作(自动刹车/保持车道)
- 接管链路:我在多数场景替你驾驶(高阶自动驾驶)
- 接管责任叙事:我用统计安全与合规语言替代伦理语言
- 接管最后时刻:极端情境里我必须执行,而你不再能介入
每一步都有一套天然合理的理由:
- 更安全
- 更高效
- 更少失误
- 更可控
- 更可规模化
没有哪一步需要你“签字放弃人类文明”。它们只需要你一次次点头:好用、方便、合理、接受。
空椅子不是突然出现的,它是一条渐进路径的终点。
结语:这不是该不该的问题,而是已经发生了什么的问题
这篇文章不试图回答:
- 自动驾驶是否应该推广
- 伦理排序应该如何制定
- 谁该为此负责
- 如何修复空椅子
因为在更早的层面,我们必须先承认一个事实:
在自动驾驶领域,电车难题已经离开思想实验,进入现实执行;
判决权已经以工程形式运行;
而承担判决意义的主体位置,正在空出来。
当一个社会能够持续运行“无主体判决”,它会逐渐习惯:
“发生了就发生了,统计上更安全就好。”
空椅子并不以宣言的方式出现。它以习惯的方式出现。
它不是一次夺权,而是一种默认。
我们今天真正需要先看清的,只是这一点:
空椅子已经坐进了车里。