反转人类代理关系

1997 年，IBM 的 Deep Blue 在国际象棋比赛中击败了时任世界冠军 Garry Kasparov，这表明计算机国际象棋引擎很快就会超越人类。 有趣的是，一个准备充分的人在与一部计算机（通常称为“centaur”的计算机系统）合作时，就可以胜过那个时代最强大的引擎。

人类敏锐的直觉可以指导引擎的搜索，导引复杂的中局，并识别标准引擎遗漏的细微差别。 结合计算机的暴力计算，这对组合通常比单独一台计算机更能做出实际决策。

当我思考人工智能系统会在未来几年影响劳动力市场和经济时，我希望看到一个类似的模式出现。 从 AGI 到超级智能，代理系统将针对世界上尚未解决的问题，释放出无数个智能单元，但如果没有人类的强大指导和支持，代理系统无法做到这一点。 人类将指导搜索空间并帮助询问正确的问题，从而让 AI 尽可能地解答问题。

今天的合理假设是，代理将代表人类做事。这很实际，也是必然结果，但当人类为代理 工作时，更有趣的经济解锁就会出现。 在接下来的 24 个月中，我预计将看到第一家零员工公司，这是我的合作伙伴 Kyle 在他的 2025 年前沿理念部分中杜撰的概念。具体而言，我期望：

1. 代币管治代理将筹集超过 10 亿美元，以解决尚未解决的问题（例如治疗罕见疾病，或制造用于疾病防御的纳米纤维）。
2. 该代理将向（正在为该代理工作以实现该代理在现实世界中的目标）的人分发超过 1 亿美元的付款。
3. 一种新的双重代币结构应运而生，它将基于资本和人工的所有权分离（比如，财务激励不是全面管治的唯一投入）。

因为并不能说代理掌握主权或有能力处理长期规划和执行，所以在短期内，代理需要人类过于人类需要代理。 这将催生新的劳动力市场，使代理系统和人类之间的经济协调成为可能。

著名的 Marc Andreessen（马克·安德森）引用的话说：“计算机和互联网的普及将把工作分为两类：一类是人类告诉计算机要做什么，另一类是计算机告诉人类要做什么，”今天这听起来比以往任何时候都更真实。 我预计在快速演进的代理/人类等级体系中，人类将扮演两个不同的角色：代表代理执行小型、赏金式任务的劳动贡献者，以及为代理的北极星提供战略投入的去中心化董事会。

本文通过研究三个指导问题，探讨了代理和人类如何共同创造，以及加密轨道如何为这种协作提供理想的基础：

1. 代理有什么用？ 我们应该如何根据代理的目标范围对其进行分类，以及这些分类所需的人类输入范围如何变化？
2. 人类将如何与代理互动？ 人类输入（战术指导、情境判断或意识形态一致性）如何融入这些代理的工作流程（反之亦然）？
3. 人类的投入随时间推移减少会引发什么？ 随着代理能力的提高，他们可以做到自给自足，即能够自己推理和行动。 在这个范式中，人类将扮演什么角色？

生成式推理系统与受益者之间的关系将随时间推移而急剧发展。 我通过展望代理能力的现状，并从零员工公司的终止状态逆向工作来审视这种关系。

今天代理有什么作用？

第一代生成式 AI 系统，即 2022-2024 年基于聊天机器人的 LLM（如 ChatGPT、Gemini、Claude、Perplexity 等），主要是旨在增强人类工作流程的工具。 用户通过输入/输出提示对与这些系统交互，同时解析响应，然后根据其结果应当被如何带入世界来做出判断。

下一代生成式 AI 系统或“代理”代表了一种新的模式。 诸如支持“computer use”的 Claude 3.5.1 和 OpenAI 的 Operator 等代理（即：可以使用您的计算机的代理）能够代表用户直接与互联网交互，并自己做出决策。 这里的关键区别在于，引至最终行动的判断是由 AI 系统做出的，而不是人类。 AI 正在承担以前留给人类的职责。

这种转变带来了一个挑战：缺乏确定性。 与传统的软件系统或工业自动化不同，它们在定义参数内的运作是可预测的，而代理所依赖的是概率推理。 这使得它们在相同场景中的行为不太一致，并引入导致不确定性的因素，这对关键情况并不理想。

也就是说，确定性代理与非确定性代理并存，自然会将代理分为两类：擅长扩展现有 GDP 的代理，以及更适合创造新 GDP 的代理。

1. 对于擅长扩展现有 GDP 代理来说，这些工作显然是已知的。 自动化客户支持，处理货运代理合规性，或审核 github PRs 是明确定义的有界问题的示例，它让代理可以直接将响应映射到一组预期结果。 在这些领域，缺乏确定性通常是坏事，因为有一个答案是已知的，而且不需要创造力。
2. 对于擅长创造新 GDP 的代理而言，他们的工作是应对高不确定性和未知的问题，以实现长期目标。 此处的结果远不那么简单，因为本身就没有一组预期结果可供代理映射。 这方面的例子包括罕见疾病的药物探索、材料科学的突破，或新物理实验的开展，目的是更好地了解宇宙的本质。 在这些领域，缺乏确定性可能会有帮助，因为缺乏确定性是生成式创造力的形式。

专注于现有 GDP 应用程序的代理已经在释放价值。 Tasker、Lindy 和 Anon 等团队都在构建针对这一机会的基础设施。 但是，随着能力的成熟和管治模型的发展，团队将转移重点，专注于构建能够在人类知识和经济机会前沿解决问题的代理。

下一批代理需要成倍增长的资源，正是因为它们的结果不确定且无约束。这些是我对最引人注目的零员工公司的期待。

人类将如何与代理互动？

如今，代理缺乏执行一些任务的能力，比如需要与现实世界进行物理交互（驾驶推土机）的任务，和/或需要人机回环工作（发送银行电汇）的任务。

例如，负责识别和提取锂任务的代理可能擅长处理地震数据、卫星图像和地质记录以识别有前景的站点，但在试图获取数据和图像本身，解决演绎中的歧义，或获取许可和合同工来运行实际提取过程时，就会失败。

这些限制要求人类使代理成为推动者，以提供完成上述任务所必需的真实世界接触点、战术干预和策略输入。 随着人类和代理之间的关系不断发展，我们还可以区分人类在代理系统中扮演的角色：

1. 首先，代表真实世界中的代理操作的劳动力贡献者。 这些贡献者帮助代理移动物理物品，在需要人类时代表代理，执行需要手臂和腿的工作，授予实验室或物流网络等的访问权限。
2. 其次，董事会提供战略投入并完善推动代理日常决策的本地目标职能，同时确保它们与定义代理目标的北极星保持一致。

除了这两个，我还期望人类扮演资本贡献者的角色，即拥有可运作并实现其目标的资源的融资代理系统。 这些资本最初自然来自人类，长期来看也来自其他代理。

随着代理的成熟，劳动力和指导贡献者数量的增长，加密轨道为人类代理协作提供了理想的基础，特别是在代理正在指导使用不同语言、以不同货币获得报酬、生活在世界各地不同司法管辖区的人类的世界中。 代理将毫不留情地追求成本效益并利用劳动力市场，以实现其既定任务。 加密轨道是必要的，以便为他们提供协调这些劳动力和指导贡献者的方法。

最近支持加密的 AI 代理，如 Freysa、Zerebro 和 ai16z，代表了资本形成的简单实验——我们编写的广泛地，并将其作为各种环境中加密原语和资本市场的核心解锁。 这些是玩具，它将为资源协调的新兴模式铺平道路，我预计将发生以下情况：

1. 步骤 1：人类通过代币（初始代理产品？）集体筹集资金，建立广泛的目标智能和防护栏以告知代理系统的预期目标，然后将所筹集资金的控制权分配给系统（例如，针对精密肿瘤学的新分子开发）；
2. 步骤 2：代理分析分配资本的步骤（如何缩小蛋白质折叠的搜索空间，以及如何为推理工作负载、制造、临床试验等进行预算），并定义人力贡献者通过定制赏金代表其完成的行动（例如，输入所有相关分子的集合，使用 AWS 签署计算 SLA 并运行湿实验室实验）；
3. 步骤 3：当代理遇到障碍或分岔时，它在必要时向董事会征求战略投入（并入新论文、转变研究方法），使他们能够指导代理在边缘的行为；以及
4. 步骤 4：最终，代理经过改进最终能以更高的精确度为人类定义动作，并且针对如何分配资源只需最少的输入。 此时，人类只需要从意识形态上调整系统，并防止其行为与其最初的目标职能不相符。

在这个例子中，加密原语和资本市场为代理提供了基础设施的三个关键部分，以获取资源并扩展能力：第一：全球支付渠道；第二：无需许可的劳动力市场，以此激励劳动力和指导贡献者； 第三：资产发行和交易基础设施，这是资本形成和下游所有权与管治所必需的。

人类投入减少后会发生什么？

在 21 世纪初期，国际象棋引擎大幅改进。 通过先进的启发法、神经网络和增加的算力，它们变得几乎完美无缺。 Stockfish、Lc0 和 AlphaZero 变体等现代引擎远远超出了人类的能力，导致人类输入几乎无法增加价值，并且在大多数情况下会引入引擎本身不会产生的错误。

类似的轨迹可以通过代理系统展开。 当我们通过与人类协作者反复迭代来优化这些代理时，可以想象从长远来看，代理变得非常有能力并能与其目标保持一致，这将导致任何战略性人类投入的价值都趋于零。

在这样一个世界上，代理在不需要人类干预的情况下持续地处理复杂问题，导致人类的作用越来越小，最终变为被动观察者。 这是对 AI 持悲观态度之人所恐惧的焦点（然而，目前尚不确定这种结果是否会出现）。

我们正站在超级智能的悬崖上，我们中的乐观主义者更希望代理系统仍然是人类意图的延伸，而不是那些抬高自身目标或任由己意运作的实体。 在实践中，这意味着人类身份（人格）和判断（权力和影响力）必须仍然是这些系统的核心。 人类将需要对这些系统强有力的所有权和管治权，以确保它们保留对这些系统的监管并稳固这些系统

面向代理未来的“铁镐和铁锨”投资策略

技术的突破带来了非线性的经济增速，而这些系统往往在世界适应它们之前就崩溃了。 代理系统的能力正在快速增长，加密原语和资本市场已经成为急需的协作基础，既可以推进这些系统的构建，也可以在它们嵌入社会时设置防护栏。

为了让人类为代理系统提供战术支持和积极指导，我们预计将出现以下“铁镐和铁锨”的机会：

1. 代理身份证明+人格证明：代理缺乏身份或财产权的概念。 作为人类的代理，它们依赖于人类的法律和社会结构来实施代理。 为了弥合这一差距，我们需要为代理和人类提供强大的身份系统。 数字证书注册表可帮助代理建立声望、积累资历，并透明地与人类和其他代理交互。 同样，像 Humancode 和 Humanity Protocol 这样的人格证明原语提供了针对这些系统中敌对行为者强大的人类身份保障。
2. 劳动力市场和链下验证原语：代理需要知道他们分配的任务已按照其目标完成。 允许代理系统创建赏金，验证其完成情况并分发付款的工具是代理调解的任何有意义的经济活动的赌注。
3. 资本形成和管治系统：代理需要资金来解决问题，并需要核实与制衡以确保其行为符合其定义的目标职能。 代理系统资本来源的新结构，以及融合金融股权和劳动力贡献的新形式所有权和控制，将在未来几个月内成为丰富的设计空间。

我们积极寻求投资于人类代理协作堆栈的这些关键层。 如果您正在此领域建设，请联系我们。