AGI 会让你无关紧要吗：未来最重要的是成为价值创造者
把 AI 留在工具位置，用能动性、通才能力与反馈纠错持续创造知识
概要
Dan Koe 从控制论区分 AI、AGI 与人类：普通 AI 是需要被分配目标的专业工具，而人类的独特性在于能发现新目标，通过猜想、批评和反馈纠错创造知识。他借 David Deutsch 的观点，把人类能力拆成计算、转化、变异、选择和注意，认为人既能借助通用计算机增强计算，也能把材料转化为工具，在观念空间提出并筛选方案，还能改变视角来重新分配注意。由此，他反对把未来简单理解为“AGI 必然全面超越人类”，但承认岗位与生活结构会改变。应对方法不是寻找一个永久安全职业，而是成为价值创造者：形成演进中的愿景，建设项目，识别问题，测试方案，存留知识，根据市场反馈持续纠错；同时学习写作、设计、营销、销售、拍摄与编程，把 AI 保持在工具而非主人位置。文章写于 2024 年 12 月，o3、87.5% ARC-AGI、五年内工作消失和产品上线等均是当时数据或预测；有关人类无限理解、AGI 无法超越、意识统一和时间本质的论述属于哲学推演，并非 2026 年技术现状或科学定论。
正文翻译
好吧，我们得谈谈这件事。
上周，OpenAI 发布了新模型 o3，科技圈的 Twitter 彻底疯狂。如果你无法理解这件事，它可能引发很多关于人类未来角色的恐惧。
o3 有什么特别？它在 ARC-AGI 基准测试中取得 87.5% 的准确率，相较此前模型有显著提升。
模型还没有正式推出，有人就说我们已经抵达 AGI，五年内工作将不复存在。另一些人，包括 Elon，则说金钱未来会失去意义。除非我们形成正确视角，否则过去知道的一切，以及为了改善自己和企业所做的一切，都可能白费。
我最感兴趣的主要问题是：
多年研究中，我积累了不少关于这些问题的想法。在这封信里，我汇集了几个关于人类独特性最有说服力的论点。
希望能给你一种积极理解世界并调整行为的方式。
朋友们，系好安全带。这是最值得活着的时代。
顺便说一下，其中许多内容浓缩自我的下一本书《Purpose & Profit》，将在二月推出，至少数字版会免费。
AI 与 AGI：一个关键区别
要理解 AI 是什么、对我们意味着什么，需要从这个词的起源开始。AI 之前有控制论，这是 Norbert Wiener 在 1948 年阐述的观念。
控制论来自古希腊语“舵手”，也可理解为“管理者”。它讨论系统中的自动、自我调节控制。行动、感知并与目标比较，是智慧系统的基础循环。Wiener 的关键洞见是，世界应该以信息来理解。生物、头脑与社会等复杂系统都会朝目标纠正错误；一旦这些反馈循环失效，系统也会崩溃，走向熵增。
想象一艘夜里驶向灯塔的船，不断利用反馈。船长看见船向灯光左侧偏移，于是向右转；转得太右后，再次调整。
Wiener 提出控制论两年后，出版了《人的人的用途》。这本书如今已绝版，但其中与当今世界有关的核心观念是：“我们必须停止亲吻抽打我们的鞭子。”Wiener 知道，危险不在机器越来越像人，而在人被当成机器对待。
这就是 AI。它是一套需要管理者的控制论系统。我们今天所知的 AI，大多是帮助我们比 Google 搜索稍快一点寻找信息的聊天应用，缺少一个关键特质：能动性。
AI 是需要通才的专家，是需要主人的工具。AI 对实现分配给它的目标很有用，例如下国际象棋或击败围棋选手。只要还必须通过测试，或必须被分配目标，才能判断其智力，它就远远没有接近人类智力。
Kortex AI 将在一月底推出，到时你会明白我的意思。如果你有一套可供参考的写作第二大脑，或者擅长告诉它该做什么，它可以写得非常好，而我们替你解决了其中许多问题。移动端、桌面端、离线模式和浅色模式也会在一月陆续上线。
但这正是问题。大多数人被训练成专业化工具，而不是能在未知中掌控旅程的创新人类。难怪他们害怕被替代，他们确实应该害怕。从出生那天起，他们就被分配目标，并不断纠错，以符合父母希望他们进入的模具。上学、找工作、六十五岁退休。创业？别做梦。存钱、取得好成绩、听从权威。走安全道路，继续服从主导系统。不知不觉，心智会抓挠着把你拉回那种被卖给你、号称舒适的生活。你偶尔可能想改变，灵魂深处哭喊着要你挣脱，但头脑中的代码太强，很快就把这个被误认为错误的功能压掉。现在明白我为什么几乎每封信都谈它了吗？这听起来像反复说同一件事，但专业化塑造可以说是人类的毁灭者，因为它毁灭创造力。解决方案是什么？我们很快会讲。
回到故事。二十世纪六十年代前后，出现了一种新的技术理解：通过发明计算机，我们把中央神经系统，也就是心智外化了；所有人从此共享一个单一心智，一种无限智慧，全部潜在信息触手可及。
遗憾的是，今天我们很少听见控制论。
为什么？因为这种新理解激发了糟糕的激励。Norbert Wiener 对智慧机器的警告，与同事们商业化新技术的愿望相冲突，他们想从中获利。其次，计算机先驱 John McCarthy 不喜欢 Wiener，拒绝使用“控制论”，转而创造“人工智能”一词，并成为该领域的奠基人之一。
随着关于智慧机器的讨论急剧增加，我们开始疑惑，究竟是什么让人类特殊，或者人类从一开始是否特殊。作为唯一登上月球的物种，其中总该有点什么，对吧？
AGI 与人类
受 Karl Popper 影响的 David Deutsch 相信，人类确有某种重要特质，就在于创造无限知识的能力。
它从创造力的必要性开始。一切知识都通过猜想与批评，也就是试错，在达尔文术语中则是变异与选择被创造出来。
换句话说，猜测并纠正自己的猜测，就是完成任何下定决心之事的方法，也就是心理控制论。我们靠它学习、创新、进步，并理解宇宙中几乎所有东西。不同之处在于，人类可以把心智设定在任何事情上，而不只是一项被分配的目标。人能发现新目标，而新目标塑造对机会的感知，让心智朝目标纠错。
Deutsch 相信，人类是“普遍解释者”，能够理解自然法则范围内任何可被理解的东西。
我们创造解释性理论，揭示现实的深层结构，使自己更高效地猜测和预测，并随时间加速进步。
这些知识让我们理解从未直接经历的事物，例如恒星与星系。即使从未建造火箭，我们也能理解它；如果能够理解，又拥有所需知识，最终就能建造。这里存在一条合乎逻辑的步骤序列，每一步都要求你拥有该步所需知识。在实际生活中，你不能实现某件事，简单原因是你要么不理解它，要么缺少实现它的知识。对高能动性人类来说，这是一种解放；对低能动性机器来说，这是亵渎。
许多人正是在这里误解 AGI。
AI，也就是人工智能，是一个必须被分配目标的不完整系统，就像许多动物或低能动性员工被编程一样。
AGI，也就是通用人工智能，是完整或普遍系统，就像不被限制在一小部分可能性中的人类。AGI 也许拥有更多算力或记忆，但不存在它能理解而我们不能理解的概念；而且我们还可以使用通用计算机，或用更多算力和记忆增强自己。
重点是，你可以实现可能性领域中的任何事情，但前提是拥有相应知识。
你并没有注定走上社会默认道路，也没有注定被 AGI 统治。
人类的五种能力：AGI 能否超越？
关于 AGI，人们似乎始终无法就定义达成一致。
有人把它视为能自动化、无人值守经营企业的工具；有人认为它会像我们一样成为一个人；还有人认为它会成为彻底超越人类能力的超级智能，他们通常称之为 ASI。
最后一种最令人恐惧，因为人们的心智会跳跃着得出结论，认为我们可能变得无关紧要。承受压力时，心智会变窄，我们无法清楚思考，也就无法理解。
这里的问题是：
推测这些事情很有趣，我们可以整天做这件事，而不关注重要之事。所以，让我们拆解这些能力。
根据同样受 Deutsch 影响的 AGI 研究者 Carlos De la Guardia，我们主要需要关注计算、转化、变异、选择和注意。
计算
我们能计算的东西存在上限吗？
不存在，因为一旦手中有通用计算机，计算任何东西就只是时间和记忆问题。
如果 AGI 拥有它，计算能力会与我们一样，因此对我们没有优势。更进一步，如果我们能增强大脑，而我不认为这超出可能性范围，就能在 AGI 加速时继续与它并驾齐驱。
转化
转化就是创造。只要拥有正确知识，我们能把原材料变成火箭。
只要有一组具体操作，人类双手和身体似乎特别擅长创造任何东西。我们建造了宇宙飞船和望远镜，也就是说，我们能造出“制造某物的某物”。我们是能制造工具、在任何环境中发展壮大的通才，而不是被某个生态位束缚的动物。
问题是：
这些基础操作以正确方式串联起来后，能完成的事情是否存在限制？
答案仍然是否定的。如果人类能远程控制一只大猩猩，只要时间足够，它就能按照一串步骤建造火箭。不，我不是说只有一只大猩猩。想象 Elon 在操控它，他会做什么？
这里的关键是时间。转化需要时间，奇点不会改变这一点，正如启蒙运动或大爆炸没有改变它。时间是一种阻止所有事情同时发生的压缩算法，启蒙运动和大爆炸显然都没有直接把火箭送上天空。
到目前为止，对 AGI 的担忧似乎来自对现实本身的根本误解。
怎样创造知识
在计算和转化之后，还有变异、选择与注意，它们关系到怎样穿行于观念空间，也就是未知。我们可以计算和转化，但允许我们这样做的知识是否存在上限？
知识有两种功能。
第一，让具体事情发生，最好是好事而不是坏事。第二，捕捉现实中的模式。它使我们能高效存储信息，不必每次追求某件事都从头开始。我们理解太阳每日升落、季节定期变化等大尺度概念。
没有这种理解，生活很大一部分会崩溃。捕捉模式让我们能按接近程度规划。我们知道寒冷环境会冻死人，所以旅行时使用外套和酒店等知识沉积物保持温暖。
把观念空间或未知想成一张有明暗区域的普遍地图。亮处是你已经探索的领域，暗处是潜力所在。
这张地图是可供发现的观念表面。观念可以接受现实测试，以验证是否有效。当结果没有使你接近目标，甚至让你更远，问题就会显现，而你必须朝目标纠错。
变异
为了生存并实现下定决心之事，我们能提出的新观念数量是否有限？
借助计算，我们能穿行整个观念空间；借助能动性，可以在空间中迈出任何一步，并在许多坏观念后最终偶遇好观念；借助创造，可以用独特方式移动，例如飞过森林，而不是步行穿越。
所以，我们可以理解任何事、创造任何事，并发现无限的新观念，解决无限的问题。再说一次，AGI 也能如此。双方都受自然法则约束，但法则范围内的任何可能都触手可及。
选择
我们可以提出任何观念，但能找到好观念吗？
潜在问题是，如果不能从错误中学习，就很难累积进步。如果造完燃油车后想造电动车，却必须从零开始，不会很有趣；人类这个物种也不会如此发达。
作为普遍控制论系统，我们能更高效地穿行观念空间，避免迷路。我们会纠错，这里也不存在根本差别。
注意
人类常常视为理所当然的另一种能力，是通过改变视角来改变关注点。
问题发生时，你的注意去哪里？如果想建火箭，祈求古老神明替你建造有帮助吗？还是可以更换镜头，用一种让自己感知机会的方式看待情境？
尽管范式锁定和依附意识形态是人类的大问题，但问题出现时，我们确实有能力改变注意去向。我们可以戴上灵性镜头寻找平静，也可以戴上科学镜头寻求进步。
把自己完全认同于只向上超越的“灵性”哲学，与成为无法解决某些问题的不完整系统没有区别。灵性是很好的镜头或工具，却是糟糕的主人，也不是终极答案。
既然 AGI 除非扭曲可能性，否则似乎无法以任何方式超越我们，而那时我们会面对完全不同的问题，那么我们该做什么？
这并不能改变一个事实：我们熟悉的生活会变化，工作会被取代，未知越来越近。
在我看来，唯一选择仍然与过去一样：
潜入其中。
答案过去是、未来也将是：成为创造者
成为创造者，你就不必担心工作、职业和 AI。——Naval Ravikant
正如我在 80% 的信中讨论、而 Naval 在这里优雅概括的那样，答案是成为创造者，更准确地说，成为价值创造者。
我这样说时，人们以为我指的是狭窄的“内容创作者”，也就是只会发内容，却不理解其背后深度的人。
让我们把这些内容串起来，使它真正说得通：
“entrepreneur”一词源自法语，来自表示“承担”或“做某件事”的动词 entreprendre。十六世纪翻译成英语后，它成为一个名词，指承担商业项目的人。
换句话说，创业者就是正在做某件事的人。它不是头衔或标签，而是一种行动，是对高能动性生活的承诺：不经别人许可就做事，设定自己的目标，并穿越未知实现它们。
问题就在这里。人们希望别人告诉自己该做什么，而这正是会让他们被取代的东西。这不是说停止向别人学习，而是不要把任何工作、技能或职业视为终点。
在这个意义上，“创造者”就是正在创造某种东西的人。它不是一个头衔，也不是一种可以坐在镜头前、用最少工作量完成的时髦新工作，而是一种存在方式。
恰好在当下，最有杠杆的创造场所是互联网。这是高能动性道路。你不需要许可就能创造并发布到网上，也不需要许可就能穿行观念空间，寻找所需信息。未来也许会改变，但这只会强化重点：无论是互联网还是星际空间，答案过去是、未来也始终是成为创造者。
当然，正如我们学到的，这不意味着容易，也不意味着可以跳过试错，更不意味着一门课程会给你全部答案，因为心智不是这样运作，时间不是这样运作；当工作之类的问题解决后，我们面对全新一组问题时，AGI 也不会这样运作。
你可以学习“2 Hour Writer”或“一人企业启动台”，这能提供方向，帮助你迈进未知的最初几步。但多数人会放弃，因为没有意识到自己仍然需要纠错。
这就是创造者所做的事。他们解决生活呈现的无限问题。没有问题，就没有创造力；没有问题，就没有目的。痛苦源于无法理解问题，更源于放弃解决问题的能力。没有创造力与目的的世界，就是没有生命的世界。
自主个体的标志，是学会怎样学习：
什么都做。写作、设计、营销、销售、拍摄、编程。成为你生来应该成为的通才，做观念的编排者、思想的管理者。AI 只是一个现在让你能学习并完成这些事情的工具。一旦它成为主人，你就输了。
没有人能告诉你未来该做什么。但过去难道有什么不同吗？到这里我们已经在兜圈子。你一如既往地寻找快速方案，而你也知道，最长的道路就是最快的方案。原则没有改变，只是你还没有跳出去。
感谢阅读。
希望它有所帮助。
——Dan
附言：我们没有时间讨论工作，包括工作的意义、什么会被取代等问题。
以后可以再谈。
此刻，不妨思考工作消失的所有潜在结果，以及它能否被每个人追求人生事业所取代。
人们一直都能追求人生事业，只是这也许会成为一种强制机制，推动那些一直拖延的人。
作者：Dan Koe
原文：AGI Will Make You Irrelevant (How To Future-Proof Yourself)