当 ChatGPT 替你省掉思考,人会失去什么?
副标题:效率不是唯一问题。真正值得警惕的是,我们可能正在把记忆、判断和原创性的训练机会一起外包出去。
- 原文:ChatGPT Isn’t Just Changing How We Work. It’s Harming How We Think
- 作者:Sheldon Fernandez
- 来源:The Walrus / Substack
- 原文链接:https://thewalrusca.substack.com/p/chatgpt-isnt-just-changing-how-we
- 说明:本文基于原文核心论证整理改写,保留作者主要观点、研究引用和风险判断;中文表达为转述与再组织,不是逐段翻译。
先说结论
关于 ChatGPT,最常见的讨论是“它会不会抢走工作”。但这篇文章提出了一个更隐蔽的问题:它会不会改变我们思考的方式,甚至削弱我们思考的能力?
作者的答案偏悲观:如果我们把写作、推理、总结、代码生成这些工作长期交给 AI,人类确实能更快得到结果,但也可能失去形成记忆、锻炼判断、生成原创想法的过程。
换句话说,AI 最大的风险不只是“替代劳动”,而是让我们误以为自己完成了思考。
一、AI 让写作从“生成”变成“审查”
过去写一篇文章,痛苦往往发生在最前面:想结构、找表达、反复修改、推翻重写。这个过程很慢,也很笨,但它逼迫作者真正进入材料,建立自己的理解。
ChatGPT 改变了这一点。它可以在几秒钟内生成一段流畅、整齐、看上去很像“成品”的文字。人的角色从亲自生成内容,变成了审查、选择和修改内容。
这看起来只是分工变化:机器负责初稿,人负责把关。但作者提醒,问题恰恰在这里。写作不是简单地把脑子里的想法搬到纸面上。很多时候,想法是在写作的挣扎中形成的。
当 AI 替我们跳过这种挣扎,产出速度提升了,但思考也可能变浅了。
二、“认知卸载”本来正常,但 LLM 的深度不同
作者用到了一个概念:认知卸载(cognitive offloading)。它指的是把一部分脑力负担交给外部工具。
这并不新鲜。地图替我们记路线,日历替我们记日期,计算器替我们做运算。人类一直在用工具减少认知负担。
但大语言模型不同。它不只是帮我们保存信息或完成局部计算,而是直接参与这些原本属于人类内部的工作:
- 起草文章;
- 整理观点;
- 形成解释;
- 写代码;
- 生成判断;
- 提供看似完整的推理链。
也就是说,它卸载的不只是记忆,而是“思考过程”本身。
这就是作者担心的地方:如果一个人长期依赖 AI 来完成表达和推理,他得到的是结果,但未必得到理解。
三、记不住,是因为没有真正经历过
文章引用了一项 MIT 学生写作研究。研究显示,使用 AI 辅助写论文的学生中,有 83% 无法回忆起论文中的任何引用;而不使用 AI 的对照组中,这一比例是 11%。
这个数字很刺眼。它说明 AI 写作的损失可能不只是“风格变普通”,还包括更基础的东西:记忆没有形成。
原因并不复杂。一个人亲自查资料、组织段落、修改句子时,会反复接触材料。这个过程虽然慢,却会在大脑里留下痕迹。AI 直接给出答案后,人只是浏览、接受、微调,接触深度明显不同。
这也解释了为什么很多人会有一种熟悉感:
“我好像看过了。”
但一旦要求复述、迁移、解决新问题,就发现其实没有掌握。
四、流畅的文本,可能带来更少的原创性
作者还谈到 AI 对原创性的影响。他引用微软研究院和 Nature 相关研究,认为 AI 虽然能扩大科研和写作产出规模,却可能让思路更趋同。
这并不难理解。大语言模型本质上是基于大量已有文本,预测最可能出现的表达和答案。它擅长生成合理、顺滑、符合常见模式的内容。
但原创性往往不是从“最可能的答案”里长出来的。它经常来自绕路、误解、失败、奇怪的联想,以及作者在材料中反复挣扎后形成的独特判断。
AI 可以让文字更快变得工整,也可能让许多人的表达更像同一种模板。
这就是文章里所说的“机械趋同”:每个人都能更快地产出,但产出的差异变小了。
五、自动化越强,人越可能失去接管能力
作者借用了“班布里奇悖论”(Bainbridge Paradox)。这个悖论来自自动化研究:系统越自动化,人在日常中越少练习;可一旦系统出错,又恰恰需要人类接管最困难的部分。
这套逻辑放到 AI 时代很容易理解。
如果一个初级程序员长期让 AI 写代码,他可能很快交付功能,却没有真正理解系统设计、边界条件和错误来源。平时一切顺利时,效率很高;但当 AI 生成的代码出问题、线上故障出现、需求变复杂时,他可能缺乏足够的底层判断。
作者把这种风险称为类似“理解债”的问题。你以为自己省掉的是时间,其实可能欠下了理解。
在写作、研究、管理、教育里也是一样。AI 可以帮人绕过困难部分,但困难部分往往正是能力形成的地方。
六、AI 不是不能用,而是不能替你完成全部思考
文章并不否认 AI 的价值。作者也承认,在专家主导、边界清晰、验证严格的场景里,AI 能产生巨大作用。
例如,文章提到 OpenAI 与理论物理学家合作推导新结果,也提到 Mayo Clinic 利用 AI 提前识别胰腺癌风险。这些案例说明,AI 并不只是“偷懒工具”,它可以扩展人类能力。
但关键区别在于:专家不是让 AI 替自己思考,而是用 AI 扩展推理、计算和探索空间。最终的解释、判断和落地责任,仍然在人手里。
这才是比较健康的关系:AI 做加速器,人保留方向盘。
七、我们需要重新引入“生产性摩擦”
文章最后给出的方向,不是彻底拒绝 AI,而是主动保留一些“精神阻力”。
作者借用了数学家陶哲轩关于“营养与运动”的隐喻:工具可以像营养一样补充能力,但人也需要运动。如果所有困难都被移除,大脑也会退化。
放到日常工作里,这意味着:
- 重要文章不要直接让 AI 写第一版,先自己写出粗糙想法;
- 复杂问题不要先问 AI 结论,先写下自己的判断;
- 读完 AI 总结后,必须用自己的话复述一次;
- 代码可以让 AI 生成,但关键路径必须自己读懂、测试并解释;
- 定期保留一段不用 AI 的深度工作时间,训练自己的推理肌肉。
这些做法看起来低效,但它们保留了能力形成所需的摩擦。
八、真正的分水岭:你是在用 AI,还是被 AI 牵着走?
这篇文章最值得讨论的地方,不是简单把 AI 放到“好”或“坏”的位置上。它真正指出的是一个使用姿势问题。
如果一个人已经有清晰判断,AI 可以帮他扩展资料、发现漏洞、压缩表达成本。这个时候,AI 是放大器。
但如果一个人还没有形成判断,就急着让 AI 给结论、写框架、补论据、生成成品,他得到的可能是一套看似完整的思考外壳。文本很顺,逻辑也像样,但里面没有经过自己的理解和选择。
这两种用法看起来都叫“用 AI 提效”,结果却完全不同。
前者让人更快抵达自己的判断,后者让人更快远离自己的判断。
这也是为什么“先自己想一遍”变得更重要。它不一定要很长,也不一定要成熟,但它应该存在。哪怕只是几条粗糙的判断,也能让你在面对 AI 输出时有一个内在锚点,而不是被模型生成的流畅答案牵着走。
九、对普通知识工作者的现实提醒
很多人不需要成为 AI 研究者,也不需要拒绝新工具。更现实的问题是:每天使用 AI 时,如何不把自己的核心能力一起交出去。
可以用一个简单标准来判断:
如果 AI 完成的是“体力活”——整理格式、压缩文字、找错别字、把已有结构变得更清楚,风险相对较低。
如果 AI 完成的是“方向性工作”——决定观点、形成判断、解释因果、生成方案、承担取舍,那就必须小心。因为这些部分越省力,你越可能失去训练机会。
尤其在写作、编程、研究和管理里,真正值钱的往往不是最后那段漂亮文字或那段能跑的代码,而是背后的判断:为什么这样写,为什么不那样写,风险在哪里,边界在哪里,下一步该不该做。
AI 可以帮你把答案做得更快,但它不能替你拥有答案。
最值得带走的一句话
AI 让结果变得更便宜,但理解不会自动变便宜。
如果我们只追求更快的初稿、更顺滑的表达、更省力的答案,就可能慢慢失去那些看不见的能力:记忆、判断、原创性,以及在系统失效时接管局面的底气。
更好的用法不是“让 AI 替我想”,而是:
先自己想,再让 AI 帮我挑战、补充和校正。
这可能慢一点,但它保住了人真正应该保住的东西。