这里是 Tabbit「Tinsight · 洞见」栏目，我们会在这里分享一些值得花时间阅读的深度好文。此前我们已经分享过来自 offbook.press 的文章《AI 时代的真正分化》。接下来的新系列《个体学习的重建》侧重于为人们提供了一连串实际可行的解决方案。全文共有 1.9w 字，我们会分 6 次推送，本次是第 5 章。作者在这一章里，重点探讨 AI 在个人学习中的能力边界，帮助我们理解如何正确利用 AI 工具提升学习质量，而不是陷入被动消费信息的陷阱。
作者：耿达维 Dawei Geng
来源：https://offbook.press/essays/rebuilding-learning/
第五章 · AI 能做的和不能做的
前面三章都在讲用 AI 做事：让 AI 审阅你、让 AI 挖你的经验、让 AI 帮你照新领域。听起来像是「你可以把很多事情外包给 AI」。
但这个听起来是错的。
这一章要处理的是：具体哪些部分可以外包、哪些部分不能。这个边界一旦模糊，前面所有方法都会在几周内退化成第一章讲的那三种模式的高级版本。你和 AI 聊了很多、读了很多、「了解了很多」，但什么都没在你身上发生。
▍AI 能做的 80%
AI 能做的事情量非常大。
整理和组织信息。把你的零散观察整理成模型、把一个领域的知识整理成地图、把多个文档整理成结构化的理解，这些 AI 都做得极好，而且速度比你快几十倍。
审阅和反驳。用任何一个思维工具审阅你的判断、从多个视角挑战你的假设、指出你推理里的漏洞和盲点，AI 的审阅质量在很多场景下接近一个认真的专家。
角色扮演。扮演某个领域的资深从业者、扮演你的反对者、扮演一个理性但挑剔的同行，这种扮演让你能从不同视角看问题，成本几乎为零。
记录和追踪。记下你的假设、记下你的预测，几个月后自动提醒你「你在 X 时间做过 Y 预测，它的验证情况是什么」，这种追踪在过去需要你自己维护日志，AI 可以代劳。
知识整合。把你学到的东西和你已有的东西关联、发现矛盾、建立新的连接，这种整合在过去需要你自己的大量反思，AI 可以加速。
初稿生成。把你脑子里有的想法用某种格式写出来、做初步的润色、给出几个版本的措辞，这些执行性的工作 AI 做得比大部分人快。
这些合起来，是你学习过程中 80% 的「可以被外包」的部分。把它们交给 AI，你的时间和精力被彻底释放。
▍AI 做不了的 20%
但剩下的 20%，AI 做不了，而这 20% 是所有事情的重心。
一、提出你自己的初始假设
AI 能生成很多假设。让它列出某个现象的可能原因，它能列出十几个。但这些都是 AI 的假设，不是你的。
你自己的假设是你基于你的具体情境、基于你已有的经验、基于你隐性的直觉提出的起点。它带着你对这件事的独特视角。AI 生成的假设没有这个「你」，它是一种平均化的、标准化的、符合大多数情况的假设。
学习过程的起点必须是你的假设。没有你的假设，整个循环没有驱动力，因为「被审阅的假设」「被反驳的观点」「被验证的判断」，这些「假设」「观点」「判断」都必须先存在，而它们只能来自你。
二、决定方向
AI 能告诉你「基于这些信息，有 A、B、C 三个可能方向」。但哪个方向值得走，这是你的决定。
AI 没有偏好、没有使命、没有代价感。它对「走哪个方向」毫无立场，所有方向在它看来都是等价的可能性。
你不一样。你有时间、有精力、有机会成本。你要在 A、B、C 里选一个，这个选择必然基于你的价值判断，而价值判断是 AI 没有的。
三、做真正的预测
AI 能列出「可能的预测」：「这件事可能往 A 发展、也可能往 B 发展、还可能往 C 发展。」但这不是预测。预测的本质是你赌哪个会发生、你愿意为这个判断承担后果。
AI 没有「赌」的能力。它没有输赢、没有后果、没有需要承担的东西。它给出的「预测」全部是带概率的可能性陈述，听起来全面，但没有决定性。
你必须自己拍板说「我赌 A 会发生」。这个拍板是学习过程的关键环节，因为只有真正拍板了，后来的验证才有意义。
四、在真实情境中应用
AI 可以告诉你「这个方法在类似情境下效果不错」。但你的具体情境总是比任何描述更复杂：你的具体用户、你的具体团队、你的具体约束、你的具体时机。
应用一个方法到你的具体情境里，需要判断这个情境的特殊性、识别方法的边界条件、调整方法的具体操作。这些判断 AI 做不了，它不在你的情境里，它没有你的具体感受。
五、承担判断错误的后果
这是最根本的一条：你做的判断，如果错了，你要承担后果。AI 不承担。
承担后果这件事有巨大的认知作用，它让你的判断不是玩笑。当你知道你下的每一个判断都会带来真实的结果（好的或坏的），你的判断过程会自动变得更谨慎、更仔细、更诚实。
AI 没有这种机制。它可以「看起来很谨慎」，但那是语言的谨慎，不是因为后果压迫出来的谨慎。两者质量天差地别。
这就是为什么 AI 学不会。它可以生成非常精巧的推理链，但它的推理不会因为「后果」而自我修正。你可以。每一次你承担判断错误的后果，你的认知系统都在接受一次最真实的校准。
▍AI 的其他边界
除了这 20% 的本质边界之外，AI 还有几个技术性的边界需要提醒一下。
一、训练数据的 cutoff。模型有一个训练数据的截止日期。这个日期之后的事情它没有直接知识。虽然现在主流模型大多接入了实时搜索，可以查到新东西，但搜索到的结果和它训练时内化的深度理解不是一回事 —— 搜索来的是「它查到了什么」，训练来的是「它理解了什么」。讨论最新事件、最新研究、最新动态时，记得这一点。
二、偏见。模型的训练数据有偏见，通常是西方中心、英文中心、主流媒体中心。你问它一个涉及中国具体情境的问题，它给的答案可能带着美国视角的默认假设。你问它一个涉及少数派观点的问题，它可能倾向给你主流观点。
三、幻觉。模型会自信地编造事实：虚假的引用、不存在的研究、编造的人名和机构。越是在它不熟悉的领域，幻觉率越高。对 AI 给出的具体事实性断言，保持一份怀疑。
四、上下文限制。一次对话里你能给 AI 的信息量有上限。超过某个量之后，它会开始「忘记」早期的信息。长对话里的一致性需要你主动维护。
这些边界不是让你不用 AI，是让你知道 AI 在哪些地方会出错，在哪些地方你需要自己补偿。
▍AI 是镜子，不是答案
把前面的东西合起来。
AI 不是一个给你答案的工具。它是一面让你看清自己的镜子。
用它来审阅你的判断，它照出你判断里的漏洞。 用它来挖你的经验，它照出你已有的结构。 用它来质询新领域，它让你看到新领域和你熟悉领域的关系。
每一个用法里，主角都是你。你的判断、你的经验、你的质询。AI 只是让这些东西被你自己更清楚地看见。
那些把 AI 当作「答案提供者」的人（让 AI 回答「我应该做什么」、「哪个方案更好」、「这个情况怎么办」），他们得到的答案全部是平均化的、标准的、没有个人特异性的。这些答案对任何人都勉强适用，所以对具体的你都不真正适用。
那些把 AI 当作镜子的人（让 AI 照出他们自己脑子里已经有的东西、帮他们整理、帮他们质询、帮他们校准），他们得到的是关于他们自己的洞察。这些洞察只对他们自己适用，但它们真的适用。
这是 AI 时代两种学习方式的根本区别。前者是消费，后者是建设。前者让你的「知识」增加但能力不变；后者让你的判断系统真正生长。
未完待续……
第一章 · 大部分人用 AI 的方式在损伤认知去耦
第二章 · 用什么问题值得问
第三章 · 用 AI 建模（一）：思维工具作为审阅者
第四章 · 用 AI 建模（二）：跨域同构从已有镜子出发
第五章 · AI 能做的和不能做的
第六章 · 一个起点：AI 编程
第七章 · 最后
