← 系列目录
【图灵子·AI与韩非子】 ⑥

同样一句对的话,为什么从他嘴里说出来你就不信

图灵子 · 剑桥/普林斯顿 · AI创业者
用老子的眼睛,看清AI时代里你说不清楚的处境

两条一样的消息,一条信,一条骂

去年冬天,一个做投资的朋友把手机递到我面前,让我看两条微信。

两条消息,时间只差二十分钟,内容几乎一字不差:他重仓的那只票,基本面出了问题,劝他赶紧减。

第一条,来自认识了十年的老同学,同行。

第二条,来自一个他根本不认识的财经号,在评论区随手刷到的。

对老同学,他回了两个字:"在看。"然后真去把那家公司最近三个季度的财报翻了一遍。

对那个财经号,他截了图,甩进朋友群里,配了一句:"又一个唱空骗流量的,离这种号远点。"

我问他:假如这两个人说的是同一件事,而且都说对了呢?

他愣了一下,说:那也是巧合。老同学是真为我好;那个号,是想带我节奏。

我没接话。

因为这件事,两千三百年前,宋国一个富人已经替他干过一遍,而且干得比他还彻底。

宋人那堵塌掉的墙

韩非把这个故事压在《说难》里,不是顺手放的。它被放在一篇专讲"怎么把话说进别人心里"的文章中央,当作一根钉子。

宋有富人,天雨墙坏。
《韩非子·说难》

一场雨,把墙浇塌了一段。富人的儿子说:不修,要进贼。隔壁那个老头,看见了,也说了同一句话——这墙得修,不然要遭贼。

暮而果大亡其财,其家甚智其子,而疑邻人之父。
《韩非子·说难》

当晚,果然被偷了个干净。

可韩非真正要你盯住的,是天亮以后这家人的反应:他们一边夸自己儿子有先见之明、聪明绝顶,一边把怀疑的眼神,死死钉在那个隔壁老头身上——这贼,是不是你通的风?

同一句预警。同样准。同样赶在案发之前说出口。

亲儿子说出来,叫智慧。

邻居说出来,叫嫌疑。

一句话的命,不由它对不对来定,由说它的那张嘴来定。

给它起个名字:信源折射率

光,从空气钻进水里,会拐一下。同一束光,换一种介质,偏的角度就不一样。物理学把这个叫折射率。

信息进你脑子,也要拐这么一下。

一句话是那束光。说它的人,是介质。这句话落到你的判断上之前,必须先穿过"这人跟我什么关系"这层水——亲、疏、敌、友——穿过去,它就已经被弯过了。

我把它叫做信源折射率

折射率越高,话被掰得越狠。亲近的人说的,往真里弯;不相干的人说的,往假里弯;你讨厌的人说的,能直接弯成它的反面。

宋人那家的折射率高到什么地步?高到能把一句救命的提醒,弯成一份偷窃的供词。

读到这儿,你大概准备骂这家人:愚蠢,薄情,以怨报德。

但这只对了一半。

富人其实并不蠢

你换到富人的位置上,重新算一遍这笔账。

墙是黄昏才塌的,一个外人,怎么这么快就知道?知道了,又图什么,专门绕过来提醒你这个八竿子打不着的邻居?案发当晚,谁离这道豁口最近、谁有踩点作案的便利?——还是那个老头。

把这几条线索串起来,怀疑他,在当时那点可怜的信息底下,竟是一次相当像样的推断。

富人不是蠢。他是拿着一把残缺的牌,做了一次冷静的贝叶斯更新——只可惜从那道窄缝里漏进来的,恰好是一桩冤案。

这才是这则寓言最冷的地方。

信源偏见,从来不是坏人专属的毛病。它是聪明人、理性人、为了在信息洪水里活下去不得不抄近路的人,身上自己长出来的那块透镜。

韩非的冷,全在这里。他从不说"这家人坏"。他只告诉你:在某一种结构里,好人也会做出这种事,而且做得心安理得、理直气壮。

骂他们薄情,是最容易、也最没用的一种聪明。

算法,是替你日夜磨这块透镜的人

古代那个富人,他的折射率是慢慢长出来的——一辈子的亲疏、远近、恩怨,一层层攒下来的包浆。

今天,有人替你批量生产这块透镜,还替你天天打磨。

推荐算法干的事,剥到底,就是测你的信源折射率,再顺着它喂。它早算清了你信谁、烦谁、看到哪类账号手一抖就转、看到哪类账号一眼就划走。然后,它把"你爱听的人说的话"端到你眼前,把"你讨厌的人说的对的话",悄悄挡进你永远刷不到的角落。

它不判断对错。它只放大亲疏。

于是宋人那家的旧事,每天在十亿块屏幕上,同时重演一遍:

自己人转的假消息,你顺手就信,因为是自己人。

对立立场说的真话,你顺手就骂,因为是那个立场。

一条信息还没来得及被验证真假,就先在"谁说的"这一关,被判了死刑。

到这儿,你或许觉得,那我多留个心眼,凡事先认认这是不是熟悉的声音,总防得住一手吧。

更深一层的坏,恰恰埋在这里。

过去你确实还能靠"这是不是我熟悉的嗓子"来挡一挡。现在,AI 已经能把那把嗓子整个伪造出来——它能仿你信任之人的语气、用词、口头禅,能凭空生出一个看起来无比"自己人"的来源。宋人那家好歹还认得儿子和邻居的脸。我们,连脸都快认不准了。

亲疏一旦能被伪造,折射率就能被人远程拧动。

那条曾经替你省电的近路,如今成了别人牵着你走的一根绳。

处知则难

韩非把"智子疑邻"压进《说难》,是有深意的。整篇《说难》,翻来覆去只讲一件事:把话说进人心里,到底难在哪。

非知之难也,处知则难也。
《韩非子·说难》

知道真相,不难。难的是,让这份真相被对面接住。

你说得对,没用。你得是"对的人",在"对的关系"里,把它说出口,那句对的话才有机会落地。同一个弥子瑕,同一桩咬一口桃子、把剩下半个递给君王的旧事——

及弥子色衰爱弛,得罪于君,君曰:是固尝矫驾吾车,又尝啖我以余桃。
《韩非子·说难》

爱他的时候,这叫"忘了自己馋,把好东西留给我";厌他的时候,同一口桃子,就成了"拿吃剩的喂我"。

事没变一分。折射率变了,判决就翻了个底朝天。

这是说客的悲剧,也是我们每个人此刻的处境。

所以这篇文章,不是劝你"客观一点、别带偏见"。那是一句正确的废话,没人做得到——连那个宋国富人都做不到,他比你我都更想活下去。

我想塞给你的,是另一个动作。

当一句让你浑身不舒服的话蹦出来,先别急着追问"这是谁说的、他安的什么心"。

先把那个人,从这句话上摘下来。

只让这句话本身,赤条条地站在你面前,问它一句:抛开是谁——它对不对,它能不能被验证,万一它是真的,会怎样。

这个动作很难。它逆着透镜,逆着算法,逆着两千三百年的人性。可在一个连来源都能被伪造的世界里,它是你手里唯一还攥得住的那点东西。

宋人那家,输掉的不是一夜被偷的财物。

他们输在:被偷了一回,还顺手把一个说真话的人,永远关进了嫌疑里。

而那个老头最大的委屈,从来不是没人信他。

是他说对了。

智慧和嫌疑,本是同一句话,中间只隔着一层薄薄的"谁"。

亲儿子说出口,叫先见;隔壁老头说出口,叫预谋。

把真假交给亲疏去裁决,第一个被冤死的,永远是那个离你最远、却偏偏说对了的人。

【图灵子·AI与道德经】· 预发布预览 · review only,未正式发布