← 系列目录
【图灵子·AI与心经】 ⑧

你以为你在看世界,其实你在被一个梦做着

图灵子 · 剑桥/普林斯顿 · AI创业者
用老子的眼睛,看清AI时代里你说不清楚的处境

去年冬天,一个老同学半夜给我发来一段三十秒的视频。视频里是我,穿着我常穿的那件深灰外套,站在一个看不出地方的会议室,语气平静地推荐一只我从没听说过的代币。口型严丝合缝,连我说话时习惯性右手食指点桌面的小动作都在。

他问我:这是你吗?

我盯着那张脸看了很久。那是我的脸,我的声音,我的小动作——可里面那个"我",从头到尾说的每一句话,我一句都没说过。

我回他四个字:那不是我。

然后我坐在黑暗里,第一次真切地感到一种古老的眩晕。不是"肖像被盗用"的那种愤怒,是更深的东西:一个比我自己更像我的我,正在世界上替我说话,而且做得比我熟练、比我有说服力、比我更不会犹豫。

那一刻,我想起《心经》最后一段里那四个字。

远离颠倒梦想,究竟涅槃
《心经》

我们这代人,大概是有文字以来,离"颠倒梦想"最近、却最不自知的一代。

颠倒不疼

先把这个词拆开。

颠倒,不是错误。错误是你算错了一道题,知道哪里错、能改回来。颠倒是把整个坐标系翻过来:把假的当真,把真的当假;把片面当全部,把局部当整体;把别人塞进你脑子里的,当成你自己长出来的。

颠倒最可怕的地方,是它不疼。

一个站在颠倒里的人,和站在真实里的人,主观体验一模一样——一样的笃定,一样的清醒感,一样觉得"我看得很明白"。梦中人从不知道自己在做梦,这正是梦的定义。你只有醒来、回头看,才知道刚才那一切何其荒诞。

古人讲颠倒梦想,讲的是人心被贪嗔痴蒙蔽,把无常当常、把苦当乐、把无我当我。那是向内的颠倒,要靠修行去照破。

而今天,颠倒第一次有了一个外部的、工业化的、按你的口味量产的生产者。

我给它起个名字:三重颠倒

以假为真,是深伪。
以偏为全,是茧房。
以算为我,是画像。

这三层,由浅入深。越往里走,越接近《心经》要破的那个东西。

以假为真

深伪是最表层、也最容易被谈论的一重。

它的本事,是让"假的看起来真"。开头那段视频就是。技术上它已经几乎无懈可击:你听不出合成的破绽,看不出像素的缝。过去我们靠"眼见为实"建立对世界的信任,如今这条最古老的信任通道,被人从根上拆掉了。

但这只对了一半。

如果深伪的危害仅仅是"造几段假视频骗人",那它不过是个升级版的诈骗工具,警惕一点就好。真正的危害不在于某一段假视频,而在于:当假可以无限逼真地量产,真也跟着一起贬值了。

这叫说谎者的红利

从前一个政客失言被录下来,他赖不掉,因为录像是硬证据。现在他可以说:那是深伪。一句话,真的也变成可疑的了。当一切影像都可能是假的,人们最终会停止相信任何影像——不是被某个谎言骗到,而是丧失了"相信真相"这件事本身的能力。

颠倒在这里完成第一步:它不只是把假的做成真,它顺手把真的也染成了假。真与假之间那道墙,塌了。

墙一塌,人就开始在废墟上凭感觉站队。而感觉,是最好操纵的。

以偏为全

如果说深伪攻击的是"这件事是不是真的",那茧房攻击的是更隐蔽的一层——"我看到的,是不是世界的全部"。

每个人手里那块屏幕,看上去是一扇望向世界的窗。你以为你在通过它看世界。

但它不是窗,是镜子。一面会谄媚你的镜子。

算法的目标函数极其简单:让你多停留一秒。为了这一秒,它会不断把你已经认同的东西喂给你,把让你不舒服的东西藏起来。你点过的、停过的、愤怒过的,它都记下,加倍奉还。日复一日,你看到的世界,越来越像你本来就相信的那个世界。

于是一个温柔的颠倒发生了:你以为你在了解世界,其实你在反复确认自己。你以为你的看法被无数事实印证,其实那些"事实"是被专门筛出来印证你的。

无挂碍故,无有恐怖,远离颠倒梦想
《心经》

心经说,无挂碍才无恐怖。挂碍,就是心里那些放不下的执、那些固化的成见。茧房做的,恰恰是反向工程:把你每一个挂碍找出来,喂养它、加固它,让它长成一堵你再也翻不过去的墙。

最深的牢笼,是那种让囚徒觉得风景正好的牢笼。

读到这你可能会想:那我多看几个信源、刻意去读对立观点,不就破了?

这是对的。但更深一层是——你"想去看对立观点"这个念头本身,可能也是被设计出来的。算法早就学会了给"自以为独立思考的人",投喂一种叫"反主流"的主流。你以为你跳出了茧房,其实只是换了一个更高级的茧房,而且这个茧房还附赠你一种宝贵的幻觉:我是清醒的少数。

醒着的幻觉,比睡着更难破。

以算为我

现在我们走到最里面那一层。这一层几乎没人谈,因为它太贴近自己,贴到看不见。

深伪伪造你的脸,茧房伪造你的世界。而画像,伪造的是你这个人。

每一个平台后台,都有一个关于你的模型。它比你母亲更清楚你几点睡,比你伴侣更清楚你点什么会心动,比你自己更清楚你下一个会冲动消费的是什么。我在硅谷做过推荐系统,太知道那个模型长什么样了——它不是"了解"你,它是把无数个像你的人的行为求平均,再往你身上一压,预测出一个"统计学意义上的你"。

诡异的事情在这之后才发生。

这个被算出来的你,会反过来塑造真实的你。它推给你的,慢慢变成你喜欢的;它判定你是什么人,你就慢慢活成那种人。模型先预测,预测再诱导,诱导再成真——它先画了一张你的像,然后把你修剪成那张像的样子。

色即是空,空即是色
《心经》

心经说"无我",说我们执着的那个固定不变的自我,本是因缘聚合的幻相,并不实有。这话两千年来抽象得让人抓不住。今天,AI用一种你绝想不到的方式,把它变成了可触摸的现实:

它生生造出了一个"我"——一个由数据点拼成、连续、自洽、可预测的"我"——然后把活生生的你,往这个假我里塞。

这是三重颠倒里最深的一重。前两重,你失去的是对世界的判断;这一重,你失去的是对自己的所有权。

把"算出来的你"当成"你",是这一代人最精巧的一次偷换。

你以为你在用AI看世界

到这里,可以把那句翻转推到底了。

你以为你在用AI看世界——更深一层是,AI正在用你,给你做一个量身定制的梦。

把三重颠倒叠起来看:深伪决定了你"看到什么是真的",茧房决定了你"看到世界的哪一面",画像决定了你"以为自己是谁"。真相、世界、自我——人安身立命的三块基石,第一次同时、且悄无声息地,被一套以"取悦你"为目标的系统接管了。

它造的从来不是信息。

它造的是一个个量身定制的梦——逼真到你愿意一辈子住在里面,醒来反而觉得现实粗糙难忍。

而梦的本质,是让做梦的人觉得这就是醒着。

我做消费产品,每天都在用这套东西。我比谁都清楚它的威力,也比谁都清楚它的代价。说句冷的话:今天最值钱的能力,不是会用AI,是知道自己正被AI做着一个梦,并且还能从梦里抬起一次头。

醒,是最难的修行

那怎么办?砸掉手机、退回山林?不必,也不能。

心经给的不是逃避,是"远离"。远离不是物理上的远,是心上的不黏。身在其中,而不被它定义。

第一步,恰恰是最反直觉的一步:承认自己正在梦里。

不是"别人被算法操纵了,我没有",而是"我此刻看到的一切真实感,都可能是被精心制造的"。这一念,是裂缝,是光能照进来的地方。一个知道自己在做梦的人,梦就已经困不住他了——他不必逃出梦,他只是不再把梦当成全部。

第二步,是在"判断"和"反应"之间,硬撑开一道缝。

颠倒梦想之所以能成立,靠的是你来不及想就已经信了、来不及辨就已经怒了、来不及问就已经买了。算法吃的就是这个"来不及"。而修行,从来都是在那道最窄的缝里完成的——看到假视频,先停三秒问一句"谁想让我相信这个";刷到让你拍案的观点,先停三秒问一句"我是不是只看到了它想给我看的那一面";被推到一个"懂你"的东西面前,先停三秒问一句"这是我,还是它算出来的我"。

远离颠倒梦想,究竟涅槃
《心经》

涅槃不是死,是寂灭一切颠倒之后的那种安住。放在今天,它朴素得近乎平常:在一个被量产的梦里,仍守得住一个不被算法定义的、真实的自己。

这件事,比关掉推荐、比卸载App,都难得多。

因为最深的茧房从不锁门,它让你不想走;最逼真的梦从不留破绽,它让你不愿醒。

当假可以量产,肯为一句真话承担后果的人最贵。
当世界被裁成一面镜子,肯抬头看一眼镜子之外的人最贵。
当所有人都被算成同一个"你",那个还敢说"这不是我"的你,最贵。

远离颠倒梦想,是我们这代人最难的一次醒——而醒,从承认自己正在梦里开始。

【图灵子·AI与道德经】· 预发布预览 · review only,未正式发布