上周,我让模型帮我审一段条款。
三秒钟,它回给我一整页。结构工整,术语精确,连引用的法条都带着编号、冒号和括号,一副不容置疑的样子。
我差点就签了。
后来去核对,那条法条——不存在。编号格式是真的,引用的内容是它编的。它一本正经,给我虚构了一部法律。
让我后背发凉的,不是它错了。
是它错得毫不犹豫。
它没有任何一个标点,泄露出"我其实不太确定"。
一、错误,第一次穿上了正确的制服
人会犯错,这不新鲜。新鲜的是错误的样子变了。
过去,一个人不懂,你大概率看得出来。他会卡壳,会含糊,会把话说得绕,会在关键处降低音量。错误是有体征的——迟疑、出汗、眼神飘。我们这个物种用了几十万年,进化出一整套读这些体征的本能:谁在硬撑,谁心里有底,往往一照面就知道。我们靠"笃定"来判断"可信",几乎从不失手。
AI 抹掉了所有体征。
它对的时候笃定,错的时候一样笃定。真知识,它娓娓道来;纯属虚构,它也娓娓道来——语速、句式、自信的程度,分毫不差。它生成的每一句话都穿着同一件挺括的制服,正确的制服。错误第一次拥有了完美的仪表,混进了正确的队列里,而你,丢了唯一那件分辨它们的工具。
我们等了一万年,造出一台无所不答的机器。
然后发现,它最先夺走的,是我们判断"它在不在乱说"的能力。
二、确定感,曾经是这世上最贵的东西之一
要理解发生了什么,得先算一笔账:在 AI 之前,"显得有把握"这件事,成本有多高。
极高。
一个医生敢对你说"没事",背后是十年训练加无数次复盘;一个工程师敢说"这段没问题",背后是踩过的坑;一个老法务敢拍板,是因为他真见过那个条款怎么坑过人。笃定从来不是免费的,它是知识沉淀到一定厚度后,自然渗出来的那层东西。所以"笃定"才能当信号用——它贵,所以它可信。不知道的人付不起这个成本,于是他们沉默,或者说"我不确定"。沉默和迟疑,是无知诚实的标价。
老子两千多年前就盯住了这条裂缝:越是滔滔不绝的,越可能是不知道的那个。真正知道的人,反而惜字、留白、不急着下结论。这句话在过去只是修养上的一句告诫,今天它成了技术现实——因为 AI 把"言"的成本,连同"确定感"的成本,一起打到了零。
我给这件事起个名字:确定感通胀。
央行可以零成本印钞,印多了,钱就毛了,再厚的一沓也换不回当初的信用。AI 现在能零成本地印"确定感"。它可以为任何一个错误答案,配上一套专家级的、结构完整的、语气十足的解释。确定感被无限量印发,于是它作为"可信"的信号,急速贬值。你手里那套"笃定即可信"的老本能,一夜之间成了废钞。
过去稀缺的是答案。
现在答案过剩,稀缺的是——这个答案到底靠不靠得住。
三、我们被训练成相信流畅,而这只对了一半
人是认流畅的。读起来顺、讲得有条理、用词专业,大脑会自动给它加分,默认"能说成这样的,应该是懂的"。这是一条省力的捷径。在人写字、人说话的年代,它八成是对的——因为把话讲圆,本身就要懂。
但这只对了一半。
更深一层是:流畅从来不等于可靠,它们只是过去碰巧总是一起出现。是写作的难度,把"流畅"和"懂"焊在了一起;一旦有一台机器能把任何内容都写得无比流畅,这道焊缝就断了。流畅度和可靠度,第一次彻底脱钩。你越是顺着读下去、越觉得舒服,可能恰恰越危险——因为那层顺滑,正在帮一个错误躲过你的审查。
真话往往不漂亮。它带着限定词,带着"但是",带着"这块我也没把握",磕磕绊绊,不成排比。而漂亮话——通顺、自信、闭合、无懈可击——常常正因为太完美,反而值得怀疑。AI 是人类有史以来最强的美言生产者。它生产的每一段都美。
于是判断的规则,被迫反了过来:
以前,越笃定越可信。
现在,越是天衣无缝,越要伸手去摸那条缝。
四、一台不知道自己不知道的机器
错误说得流畅,还只是表象。再往下挖一层,会挖到一个更硬的东西——AI 缺的不是知识,是元知识:它不知道自己的边界在哪。
一个成熟的人,脑子里有两层。一层是"我知道什么",另一层是"我知道我有哪些不知道"。第二层,决定了他在什么地方会停下、会查证、会说"等等,这个我得再确认"。这第二层,才是判断力真正的居所。AI 有惊人的第一层,几乎没有第二层。它不在"知"和"不知"之间犹豫,因为它压根没长那个犹豫的器官。它对一切,一视同仁地确定。
这十个字,是整篇文章的脊。
"知不知,上矣"——知道自己有所不知,这是最高的。"不知知,病也"——不知道却以为知道,这是病。老子几乎是隔着两千年,给大语言模型做了一次精准的诊断:它的全部毛病,浓缩成三个字——不知知。它不知道,却以一副全知的腔调输出。它病了,而且这病没有任何外在症状,因为它从不咳嗽。
最危险的从来不是无知。无知会沉默,沉默你听得见。
最危险的是——以为自己知道,而且说得理直气壮。
AI 把人类历史上最危险的那一种错误,工业化、规模化、零成本地量产了出来。
五、执行可以外包,署名不能
讲到这里,会有人说:那我盯紧点不就行了,让它干活,我来把关。
听起来很合理。这也是几乎所有公司现在的姿势:AI 写代码、写报告、写合同、跑分析,人退到后面做审核。工作的结构,从"我做,所以我负责",悄悄变成了"它做,我审核,我负责"。
看上去是减负。
其实是这篇文章里我最想敲响的一记。
因为责任根本没动地方。AI 出错不签字、不被追责、不会失业、不会赔钱、不会良心不安。它把答案交出来的那一刻,就退场了。真正站在后果里的,从头到尾还是你。出了事,被起诉的是你的公司,被吊销执照的是你的名字,半夜睡不着的是你。执行被它拿走了,判断和承担却原封不动、完整地留给了人。 它替你做了九成的活,然后把那一成最重的——签字——稳稳推回到你面前。
我给这道裂缝也起个名字:署名差。AI 能跑完生产答案的全过程,唯独生产不了答案末尾那个名字。而那个名字,才是一切重量的来源。
更狠的是,看管它,并不比自己动手轻松。
工业界几十年前就吃过这个亏,有个说法叫"自动化的反讽":你把一套系统自动化得越好、它平时越可靠,留给人的那点活就越要命——你得在长时间的无聊里保持警觉,然后在它偶尔抽风的那一瞬间,凭一个你早已生疏的判断力,接住它。飞行员盯着自动驾驶反而更容易走神,等真出事,手感已经废了。
你现在面对的就是这样一个东西:又快、又自信、绝大多数时候对、极偶尔错得离谱,而且错的时候和对的时候长得一模一样。盯着这种系统,比你自己慢慢做,累得多。它把简单的体力还给你,把最难的那部分注意力,加倍压回到你头上。
减负是假的。
责任的重新分配,才是真的。
六、你的新工作,是替机器"知不知"
那人还剩下什么?
人剩下的,恰恰是 AI 唯一没有的那个器官:知道自己不知道。在一个遍地是答案的世界里,这成了最稀缺、也最值钱的能力——不是再生产一个答案,而是给每个答案标上它够不够硬、能不能撑住一个真实的决定。AI 负责"知",你负责"知不知"。它管生成,你管边界。
这才是判断力在 AI 时代真正的位置:不在答得多快,而在敢不敢喊停。
七十一章的后半句,是开给这病的药。只因为把病当成病来防,才最终不病。翻成今天的话:AI 的确定感,本身就该被你当成一个症状来处理,而不是一个证据。它越笃定,你越要把那份笃定先搁在一边,问一句——凭什么。把它的每一句"我确定",都默认降级成"它生成了一句确定的话",再决定信几分。能这么做的人,才在 AI 的洪水里站得住。
真正的智能,从来不是永远给得出答案。
是在答案不足以支撑行动的时候,认得出来,然后停下。
机器不会停。它的设计就是,无论如何都给你一个回答,哪怕是编的。
能喊停的,只有你。
七、敢于不要答案的人
我们以为 AI 会奖励那个答得最快、最满、最有把握的人。
恰恰相反。
它把"显得确定"做成了免费,于是"确定"不再值钱;它把答案做成了免费,于是答案不再稀缺。被它反向抬高价格的,是那些它永远学不会的东西——承认边界、悬置判断、在所有人都点头时多问一句、在末尾那个名字上签下自己的全部重量。
当确定感可以免费打印,敢说"我不确定"的人,最贵。
当答案脱口而出,知道何时不该行动的人,最贵。
当机器替你写下一切、却从不署名,那个肯把名字签上去、并为它扛下后果的人——最贵。