B015

自动驾驶中的空椅子

一个已经开始运转的无主体判决系统 我们谈自动驾驶,最常见的入口是安全:事故率能不能降、传感器够不够准、法规何时完善、责任怎么划分。…

一个已经开始运转的无主体判决系统

我们谈自动驾驶,最常见的入口是安全:事故率能不能降、传感器够不够准、法规何时完善、责任怎么划分。
但这些问题都绕开了一个更根本的事实:
当必须在毫秒内做出生死取舍时,判决已经发生;
可判决席上,没有任何一个人类主体坐在那里。
自动驾驶不是一个“未来可能发生的伦理难题”。它是第一个在现实道路上规模化运行的——无主体判决系统。空椅子不是比喻,它是结构。

1. 电车难题真正想证明的,从来不是“怎么选”

电车难题被反复讲述,常被误解为:只要思考得足够深,就能找到正确答案。
它真正证明的是相反的东西:

  • 在某些极端情境里,伦理判断没有公认解。
  • 不同伦理体系(功利主义、义务论、权利论等)都能自洽,却无法统一。
  • 因而人类社会长期默认一件事:“我不知道该怎么选”是允许存在的。
    这不是懒惰,而是一种伦理现实:有些判断不能被强迫完成。犹豫、迟疑、停顿,甚至退回“我无法承担”,本身就是人类伦理的一部分。
    电车难题在哲学里成立,是因为它被放置在一个允许“无解”的空间里。

2. 自动驾驶改变的不是答案,而是“是否允许无解”

工程系统不允许“无解”。
自动驾驶在极端情况下没有资格说:

  • 我再想想
  • 我不知道
  • 交还给人类
  • 等一秒钟
    它必须输出动作。毫秒级。
    而动作意味着什么?
  • 方向盘打多少
  • 刹车多大
  • 是否变道
  • 是否撞上某个物体
  • 谁承担更高的风险
    不作为也是作为。保持当前轨迹,也是一种选择。
    于是,一个原本被允许“无法回答”的伦理问题,被强行改写成了:
    必须执行。
    这是断裂点:伦理不再被允许停留在“不确定”,它被迫进入执行链路,变成机器输出。

3. 判决发生了:但谁在判决?这句话无法回答

当动作被执行,伤亡(或幸存)成为事实,社会本能会追问:谁做的决定?
我们把所有看似合理的“判决者”逐一放上椅子,再逐一拿走。

3.1 车主不是判决者

车主没有参与设计、没有参与训练、没有实时控制权,多数时候甚至不知道系统在这一刻依据什么做出动作。
他是使用者,不是裁决者。

3.2 工程师不是判决者

单个工程师不拥有系统行为的完整控制权。模型行为来自数据、迭代、团队决策、供应链组件、测试策略。
责任被拆散到一个无法归属的结构里。

3.3 企业很难成为判决者

企业可以承担合规责任、产品责任、统计意义上的安全责任——但对某一次具体情境的伦理取舍,它通常只能给出流程语言:符合规范、符合测试、符合指标。
伦理被转写为合规,合规不等于判决。

3.4 法律系统无法进入实时

法律只能事后裁量。它无法坐进毫秒级决策链路中。
时间维度上,法庭永远迟到。

3.5 AI 不能成为判决者

AI 没有道德主体资格;不能承担责任;不能被惩罚;不能“悔改”;也不能为自己的理由作证。
它可以执行,但不能承担“判决”的意义。
于是我们得到一个冷的结论(不是价值判断,是结构事实):
判决发生了,但判决席是空的。
我们仍然可以追责,但我们无法找到一个真正的“判决主体”。
这就是“空椅子”在自动驾驶里的现实含义。

4. 那么 AI 到底怎么“选”?判断并没有消失,只是被隐藏

很多人以为:只要不把“科学家/贫民”“总统/老百姓”之类的排序写进代码,系统就不在做价值选择。
这是错觉。
系统不可能“不选”。它只能把选择藏在不同层级。

4.1 规则式判断:价值排序被显式写入

在某些设计中,会出现明确或半明确的目标:

  • 最小化总体伤害
  • 优先保护车内乘客
  • 优先保护弱势交通参与者
  • 避免侵入对向车道等硬约束
    一旦目标函数被设定,价值排序就已经发生。只是工程语言不会叫它“判决”,它叫“优化”。

4.2 概率式判断:价值排序被埋进数据

更多系统不会写“谁更重要”,它写的是:

  • 感知置信度
  • 风险预测
  • 轨迹规划
  • 在不确定性下的期望损失最小化
    看起来中立,但它把判断转移到了训练数据与评价指标里。
    数据从哪里来?
  • 人类驾驶历史
  • 事故分布
  • 道路与城市结构
  • 社会现实中的暴露差异(谁更常走路、谁更常骑车、谁更常在夜间出现)
    于是现实中的不平等、偏差、惯性,被统计化、自然化、工程化。系统不说“我更保护谁”,它说“这是最优策略”。

4.3 事故叙事:已经执行的选择被重新包装为“无人选择”

当极端情境发生,最常见的语言是:

  • 极端边界条件
  • 传感器失效
  • 识别错误
  • 不可避免事故
    这些描述可能都真实,但它们共同完成一件事:把“已执行的路径选择”从伦理层面抹去,让它回到“纯事故”。
    事故叙事是空椅子的保护壳:它让判决发生,却不必承认判决存在。

5. 我们并非被迫:我们是在默许一个未被明说的交易

为什么这种结构可以成立、可以运行、可以扩张?
因为自动驾驶带来的收益是现实的:

  • 总体事故率可能下降
  • 人类驾驶本就充满失误
  • 即便没有自动驾驶,悲剧也在发生
    于是社会在不知不觉中完成了一个交易:
    只要整体更安全,我们愿意让系统在极端情况下替我们选择。
    但这份交易隐藏了一个代价——它几乎从未被正面讨论:
    我们放弃了“必须有人承担伦理责任”的底线。
    我们接受:死亡发生时,责任可以被拆散到无人坐席。
    这不是阴谋;也不是某个组织的恶意。它是一个缓慢、安静、几乎不可见的制度结果。

6. 空椅子的精确定义:不是比喻,而是可检验的结构

为了避免它变成情绪词,我们给它一个可检验的定义:
当判决必须发生,且以实时执行的方式发生;
但没有任何一个人类主体被允许、也被要求承担这次判决的伦理意义;
空椅子就形成了。

自动驾驶满足这个定义:

  • 实时必须执行
  • 执行导致不可逆后果
  • 责任可追,但判决主体不可定位
    它不是“将来可能”;它已经在道路上运行,只是大多数时候我们不把它叫作“判决”。

7. 蚕食路径:判决权不是一次性交出去的,而是一段段交出去的

最危险的转变从来不是激烈的。最危险的转变是“合理的”。
判决权的让渡,往往经历这样的链路:

  1. 建议系统:我给你提示(驾驶辅助)
  2. 接管片段:我替你执行某些动作(自动刹车/保持车道)
  3. 接管链路:我在多数场景替你驾驶(高阶自动驾驶)
  4. 接管责任叙事:我用统计安全与合规语言替代伦理语言
  5. 接管最后时刻:极端情境里我必须执行,而你不再能介入
    每一步都有一套天然合理的理由:
  • 更安全
  • 更高效
  • 更少失误
  • 更可控
  • 更可规模化
    没有哪一步需要你“签字放弃人类文明”。它们只需要你一次次点头:好用、方便、合理、接受。
    空椅子不是突然出现的,它是一条渐进路径的终点。

结语:这不是该不该的问题,而是已经发生了什么的问题

这篇文章不试图回答:

  • 自动驾驶是否应该推广
  • 伦理排序应该如何制定
  • 谁该为此负责
  • 如何修复空椅子
    因为在更早的层面,我们必须先承认一个事实:
    在自动驾驶领域,电车难题已经离开思想实验,进入现实执行;
    判决权已经以工程形式运行;
    而承担判决意义的主体位置,正在空出来。
    当一个社会能够持续运行“无主体判决”,它会逐渐习惯:
    “发生了就发生了,统计上更安全就好。”
    空椅子并不以宣言的方式出现。它以习惯的方式出现。
    它不是一次夺权,而是一种默认。
    我们今天真正需要先看清的,只是这一点:
    空椅子已经坐进了车里。