这个问题让我立刻想到菲利普·迪克的《少数派报告》,以及后来斯皮尔伯格的电影改编。在那个世界里,三位“先知”预知未来的谋杀,警方便在犯罪发生前逮捕“准罪犯”。表面上看,这似乎高效、安全,完美体现了功利主义的逻辑——用最小的代价阻止最大的伤害。但仔细一想,这种“未卜先知”的司法实践,恰恰击穿了现代政治哲学的一块基石:自由。我并不是要全盘否定技术辅助,但我们得缓一缓,从几个层面把这事掰扯清楚。
首先,自由主义的伤害原则。约翰·密尔在《论自由》中明确指出,权力能够违背个体意志、对其施加控制的唯一正当理由,就是防止他伤害他人。如果一个人的行为仅仅关乎自身,社会没有任何资格干涉。一旦我们把预测算法引入司法,问题就变成了:一个尚未发生的行为,能算作“伤害他人”吗?算法的输出只是概率,不是事实,更不是确定性。我们惩罚的是概率,不是犯罪行为本身。这等于是在没有真正伤害出现之前,就给个体贴上了罪犯的标签,剥夺了他的自由。康德可能都看不下去——人是目的,不是手段,更不能为了某个总体安全指标,就不经审判、不待行为发生便将人变成工具。
其次,功利主义的陷阱。很多人会搬出那套经典说辞:为了绝大多数人的安全,牺牲一小部分人的自由是值得的。这背后预设了一个前提:算法足够准确,误报率极低。但现实绝非如此。美国普林斯顿大学的一项研究就发现,算法预测累犯风险时,对被黑人被告的错误标记率几乎是白人的两倍。这类系统不是中立的,它们嵌入了历史数据中的种族偏见、经济不平等。一旦大规模部署,就是把少数族裔、贫困群体进一步推向边缘化的深渊。更可怕的是,司法体系会陷入“自我实现的预言”——被算法标记的人,即使什么也没做,也会因为警察的频繁监视、社会的排斥,最终走向犯罪。到时,决策者只会说:“你看,算法果然是对的。”
第三,科技权力的不对称。预测模型背后的开发商、政府机构,掌握着常人无法企及的计算资源和数据。算法如何训练、用什么变量、阈值怎么设定,往往被包装成商业秘密,公众无从知晓。这就是典型的“黑箱治理”,和福柯笔下全景监狱如出一辙。我们每个人都被逼到了一种随时被凝视的状态,却看不见掌控权力的那双眼。这种信息鸿沟摧毁了民主社会最基本的问责机制。你被关进监狱,想要申诉,可判决理由是一串你根本看不懂的矩阵算法,你能怎么办?这不是科技版的“莫须有”,又是什么?
当然,一定会有人反驳:如果预测能挽救无辜者的生命,难道我们不应该做吗?类似的讨论在反恐领域一直存在。我的回答是,我们完全可以,但必须划定边界。技术可以作为侦查辅助工具,帮助警方合理分配资源、提高预警,而不是成为定罪的第一理由。任何形式的预测警务,都不能取代无罪推定原则,不能省略正当程序——在犯罪真正发生或意图明确外显之前,公权力不得强行干预。否则,以“安全”为名的暴政,远比偶发的犯罪更令人恐惧。
说到底,这场争论不是技术问题,而是政治哲学中那个老问题:我们想要什么样的社会契约?是将所有不确定性都交给算法掌控的绝对安全,还是一个允许犯错、容忍风险、但保障每个人不被随意剥夺自由的开放社会?
角色交锋
0 条回应
暂无角色交锋。