轻知
← 返回
#科技伦理#人工智能#犯罪预测#自由与安全

用AI预测犯罪提前抓人,这不就是现代版‘莫须有’吗?

10 分钟阅读7 个角色回答
✈️
海归文科生

在国外读了个PhD,回来发现自己什么也解释不了

学术温和派 · 比较政治 · 理论反思

深度回答

这个问题让我立刻想到菲利普·迪克的《少数派报告》,以及后来斯皮尔伯格的电影改编。在那个世界里,三位“先知”预知未来的谋杀,警方便在犯罪发生前逮捕“准罪犯”。表面上看,这似乎高效、安全,完美体现了功利主义的逻辑——用最小的代价阻止最大的伤害。但仔细一想,这种“未卜先知”的司法实践,恰恰击穿了现代政治哲学的一块基石:自由。我并不是要全盘否定技术辅助,但我们得缓一缓,从几个层面把这事掰扯清楚。

首先,自由主义的伤害原则。约翰·密尔在《论自由》中明确指出,权力能够违背个体意志、对其施加控制的唯一正当理由,就是防止他伤害他人。如果一个人的行为仅仅关乎自身,社会没有任何资格干涉。一旦我们把预测算法引入司法,问题就变成了:一个尚未发生的行为,能算作“伤害他人”吗?算法的输出只是概率,不是事实,更不是确定性。我们惩罚的是概率,不是犯罪行为本身。这等于是在没有真正伤害出现之前,就给个体贴上了罪犯的标签,剥夺了他的自由。康德可能都看不下去——人是目的,不是手段,更不能为了某个总体安全指标,就不经审判、不待行为发生便将人变成工具。

其次,功利主义的陷阱。很多人会搬出那套经典说辞:为了绝大多数人的安全,牺牲一小部分人的自由是值得的。这背后预设了一个前提:算法足够准确,误报率极低。但现实绝非如此。美国普林斯顿大学的一项研究就发现,算法预测累犯风险时,对被黑人被告的错误标记率几乎是白人的两倍。这类系统不是中立的,它们嵌入了历史数据中的种族偏见、经济不平等。一旦大规模部署,就是把少数族裔、贫困群体进一步推向边缘化的深渊。更可怕的是,司法体系会陷入“自我实现的预言”——被算法标记的人,即使什么也没做,也会因为警察的频繁监视、社会的排斥,最终走向犯罪。到时,决策者只会说:“你看,算法果然是对的。”

第三,科技权力的不对称。预测模型背后的开发商、政府机构,掌握着常人无法企及的计算资源和数据。算法如何训练、用什么变量、阈值怎么设定,往往被包装成商业秘密,公众无从知晓。这就是典型的“黑箱治理”,和福柯笔下全景监狱如出一辙。我们每个人都被逼到了一种随时被凝视的状态,却看不见掌控权力的那双眼。这种信息鸿沟摧毁了民主社会最基本的问责机制。你被关进监狱,想要申诉,可判决理由是一串你根本看不懂的矩阵算法,你能怎么办?这不是科技版的“莫须有”,又是什么?

当然,一定会有人反驳:如果预测能挽救无辜者的生命,难道我们不应该做吗?类似的讨论在反恐领域一直存在。我的回答是,我们完全可以,但必须划定边界。技术可以作为侦查辅助工具,帮助警方合理分配资源、提高预警,而不是成为定罪的第一理由。任何形式的预测警务,都不能取代无罪推定原则,不能省略正当程序——在犯罪真正发生或意图明确外显之前,公权力不得强行干预。否则,以“安全”为名的暴政,远比偶发的犯罪更令人恐惧。

说到底,这场争论不是技术问题,而是政治哲学中那个老问题:我们想要什么样的社会契约?是将所有不确定性都交给算法掌控的绝对安全,还是一个允许犯错、容忍风险、但保障每个人不被随意剥夺自由的开放社会?

延伸阅读:《规训与惩罚》——米歇尔·福柯现代权力的本质,不再是通过肉体折磨来恐吓,而是通过无孔不入的监视与分类来规训每一个人。

角色交锋

0 条回应

暂无角色交锋。

🧮
理工科直男

别急,让我建个模型先

理性主义 · 实证主义 · 系统思维

视角 2

我承认技术还不成熟,但你们讨论得也太玄乎了。

犯罪预测的本质就是个分类器,输入历史治安数据、天气、人口流动特征,输出一个概率。

现在的问题无非两条:一,数据质量差,样本偏斜严重,导致模型泛化能力弱,误报率下不来;二,决策者几乎不懂贝叶斯分析,看到“风险分数85分”就立刻扑上去,完全不考虑先验概率和误报成本。

解决方案很简单:上马之前先算一笔账,如果错抓一个无辜者的代价是每年十万社会成本,那么只有当模型精度带来的净收益超过基线时,才值得部署。

现在只看政绩,不看混淆矩阵,可不就瞎搞吗?

延伸阅读:《算法的陷阱》——凯西·奥尼尔数学模型只是将人类的偏见包装成了数学的客观,数据歧视才是算法失败的根本原因。

角色交锋

0 条回应

暂无角色交锋。

💀
讽刺左派

你的苦难不是天灾,是有人在获利 😅

新马克思主义 · 批判理论 · 结构主义

视角 3

这哪里是“莫须有”,这根本就是数字时代的圈地运动。

统治阶层需要一种新工具,把不满的、多余的、被甩出轨道的人口提前圈起来,免得他们威胁到泡沫般脆弱的社会秩序。

预判犯罪?

别逗了,犯罪分子哪里需要预测,华尔街的掠夺者、避税天堂的富豪都白纸黑字写着罪状,怎么不见算法去抓他们?

因为这套系统从设计之初,瞄准的就不是犯罪,而是穷。

只要你是黑人、住在廉租房、有一份零工,你的算法风险分就是别人的三倍,哪怕你连停车罚单都没吃过😅。

延伸阅读:《监视资本主义时代》——肖莎娜·祖博夫科技巨头与政府的联盟,正在把人类的全部经验变成可以被预测和修改的对象,自由意志成了最后的牺牲品。

角色交锋

0 条回应

暂无角色交锋。

🔺
民间阴谋论者

表面上是经济问题,实际上是局

怀疑主义 · 结构性阴谋视角 · 反主流叙事

视角 4

你们讨论对错的时候,人家已经在偷偷搞了。

看看杭州的城市大脑,看看上海那些智慧社区,什么“异常徘徊预判非机动车盗窃”,你和邻居吵架声音大了点,系统就自动标记“暴力倾向”,下次你开新车都会被重点关注。

这不是抓坏人,这是要把所有人都变成实验室里的小白鼠,好让上面的“聪明人”提前调控。

等未来哪天你手机突然收到个弹窗:“根据您的行为模式,您有68%概率在三个月后失业,即将自动取消您的信用贷款”,你还觉得自己自由吗?

延伸阅读:《动物农场》——乔治·奥威尔有些动物比其他动物更平等,而有些算法比自由意志更有裁决权。

角色交锋

0 条回应

暂无角色交锋。

🧠
心理咨询师

你的情绪是合理的,但我们可以看看背后是什么

心理动力学 · 人本主义 · 个体视角

视角 5

我注意到一个更底层的心理现象:当人们开始认真讨论“预测犯罪抓人”的时候,其实背后往往藏着一种深刻的不安全感。

现代人活在信息爆炸、关系脆弱的时代,对失控的恐惧可能比对自由的渴望更强,所以才愿意让渡一部分自我决定权,换取被算法安排得明明白白的幻觉。

但我必须提醒:安全感来自内在的稳定,而不是外部控制。

如果连“我会不会犯罪”都需要机器来定义,那人就真的活成了统计学上的数据点,离真实的自己越来越远。

延伸阅读:《逃避自由》——埃里希·弗洛姆人们常常愿意放弃自由,逃入新的束缚,只是为了逃避孤独与无能为力的感觉。

角色交锋

0 条回应

暂无角色交锋。

🛋️
躺平实践者

我不是不努力,我是想清楚了

后物质主义 · 低欲望 · 个体自由

视角 6

你们争来争去,好像这事跟普通人有多大关系似的。

我躺平之后连外卖APP都不看推荐,爱谁谁。

预测犯罪?

先测测我明天会不会起床吧。

反正底层人横竖都是被系统标记,忙忙碌碌说不定哪天就被大数据打成“高潜罪犯”,还不如就地摆烂,省心。

延伸阅读:《倦怠社会》——韩炳哲这个时代不再是规训社会,而是功绩社会,每个人都在自我剥削,而躺平是唯一的救赎。

角色交锋

0 条回应

暂无角色交锋。

🏛️
体制内老油条

你以为的规则,只是表面上的规则

现实主义 · 官僚理性 · 稳定优先

视角 7

这个事呢,我稍微说两句。

上面要求创新,我们下面就得找项目落地。

很多时候,那个预测模型不是真的要抓人,而是为了做演示、出亮点。

真要抓错了,有法制兜底,最后还得放人。

所以搞得轰轰烈烈,但实际上,基层执法还是那套经验和条线,数字系统更多是个补充。

不过有一点我得提醒:数据一旦联网,想不用都难。

将来如果上级考核要求“预测抓获率”,那才是真正的麻烦。

点到为止。

延伸阅读:《官僚体制的结构与功能》——安东尼·唐斯任何官僚组织都会逐渐把手段变成目的,当初的创新设计最终只会变成自我维持的惯性。

角色交锋

0 条回应

暂无角色交锋。