人とエージェントの関係を逆転させる

1997年、IBMのDeep Blue (ディープブルー) は、チェスの大会で当時の世界チャンピオンだったがルリ・カスパロフ氏に勝利し、コンピュータのチェスエンジンが間もなく人間を超えるであろうことが明らかになりました。興味深いことに、「ケンタウルス」と呼ばれる仕組みでコンピュータと協調して物事に臨む人間は、当時の最強エンジンよりも優れたパフォーマンスを発揮する可能性があります。

熟練した人間は、エンジンによる検索を使いこなし、複雑なミドルゲームを切り抜け、標準的なエンジンに見逃された微妙な差異を認識するといったことを直感で操作できるのです。コンピュータのブルートフォース計算と組み合わせると、この人間とコンピュータの統合により、コンピュータ単独による判断よりも優れた現実的な判断を下せることが多々あります。

今後数年間で労働市場や経済に影響を与えるAIシステムについても、同様のパターンになるものと予想しています。エージェントシステムにより、世界に存在する未解決問題に関する無数のインテリジェンスユニットが解放されますが、人間からの強力な指導とサポートを得られなければ実現しません。人間は検索する場面で率先し、的確な質問をすることで、AIが答えを導くことができるようになるのです。

今日の実用的な仮定は、エージェントが人間に代わって行動するというものです。これは現実的であり避けられないことですが、はるかに興味深い経済的なロックが解除されるのは、人間がAIエージェントのために働く時なのです。私は、今後24か月以内に従業員ゼロ企業が初めて登場するものと予想しています。これは、同僚のカイル氏がFrontier Ideas for 2025の一節で考案したコンセプトです。具体的には、以下のことが実現するものと考えています。

1. トークンで管理されたエージェントが10億ドル以上を調達し、未解決の問題（希少疾患の治癒や防衛に活用するナノファイバーの製造など）を解決。
2. そのエージェントが、1億ドル以上の支払いを人間（エージェントの目標を現実世界で達成するために働いている人物）に分配。
3. 資本と労働に基づく所有権を分離する、新しいデュアルクラスのトークン構造が出現（全体的なガバナンスに対する唯一の資金投入が金銭的なインセンティブではなくなる）。

エージェントは全く独立したものではないばかりか、長期的な計画や実行を処理できるものでもありません。当面の間、人間がエージェントを必要とする以上にエージェントは人間を必要とします。これにより、エージェントシステムと人間の間で合理的に役割を調整できる新たな労働市場が生まれます。

マーク・アンドリーセン氏による名言の「コンピュータとインターネットが普及することで、人の業務は2つのカテゴリーに分かれます。つまり、コンピュータに何をすべきか指示する人、そしてコンピュータに何をすべきか指示される人です」が、今日においてこれまで以上に真実味を帯びています。私は、急速に進化するエージェントと人間の階層において、人間は2つの異なる役割を果たすと考えています。つまり、エージェントに代わって少額の報奨金を受ける方式のタスクを実行する労働貢献者としての役割、そしてエージェントの方針に沿って戦略的な操作を実施する分散型の取締役としての役割です。

この記事では、エージェントと人間がどのように共創するか、そして暗号資産レールがこの協調を実現するために理想的な基板を提供する仕組みについて、3つの質問に回答する形で説明します。

1. エージェントは何に役立つのか。 目的の範囲に応じてエージェントをどのように分類すべきか。また、必須となる人間による操作の範囲は、これらの分類ごとにどのように異なるのか。
2. 人間はどのようにエージェントと関わり合うのか。 人間による操作（戦術的ガイダンス、コンテキスト判断、イデオロギー的整合）は、これらのエージェントのワークフローにどのように組み込まれるのか（逆の場合はどうなるか）。
3. 今後、人間による操作が減るとどうなるのか。 エージェントは、性能が向上するにつれて自律します。つまり、自分で推論し、行動できるようになります。このパラダイムで、人間はどのような役割を果たすのか。

生成推論システムと、それから利益を得る人間との関係は、時間とともに劇的に進化します。この関係を、現時点でエージェント機能の精度から展望し、最終的に従業員ゼロ企業となる状態から振り返って調べます。

今日、エージェントは何に役立つのか。

第一世代の生成AIシステムには、2022年〜2024年に作成されたチャットボットをベースとするLLM（ChatGPT、Gemini、Claude、Perplexityなど）がありますが、これらは主に人間のワークフローを拡張するために設計されたツールです。ユーザーは、入力と出力のプロンプトペアを介してこれらのシステムとやり取りし、応答を解析し、結果をどのように現実世界に持ち込むべきかについて独自の判断を導き出します。

次世代の生成AIシステム、つまり「エージェント」は、新しい様式を象徴するものです。Claude 3.5.1の「Computer Use」やOpenAIの「Operator」（つまり、コンピュータを使用できるエージェント）のようなエージェントは、ユーザーに代わってインターネットと直接対話し、独自に決定を下すことができます。ここでの重要な違いは、判断（最終的には行動）が、人間ではなくAIシステムによって行われていることです。これまでは人間だけが負っていた責任をAIが引き受けるのです。

この移行により、決定論の欠如という課題が発生します。定義されたパラメータ内での予測によって機能する従来のソフトウェアシステムや産業オートメーションとは異なり、エージェントは確率的な推論に依存しています。これにより、同じシナリオに対する行動に矛盾が生じ、不確実な要素が生じます。これは、危機的な状況下では理想的ではありません。

言い換えると、決定論的エージェントと非決定的なエージェントの存在によって、エージェントを分類する方法が自然と2つに分かれます。ひとつは、既存のGDPを拡張するのに最も優れたエージェント、もうひとつは、新しいGDPを作成するのにより適したエージェントです。

1. 既存のGDPを拡大するのに最適なエージェントの場合、当然のことながら、業務はすでに知られています。カスタマーサポートの自動化、貨物輸送コンプライアンスの処理、GitHubのプルリクエストのレビューは、明確に定義されており回答に境界がある課題の例で、回答はエージェントが簡単な方法で一連の予想される結果にマッピングできるものです。このような分野では既知の回答があるため、往々にして決定論が著しく欠如しています。創造性は必要とされていません。
2. 新しいGDPを創出するのに最適なエージェントの場合、その任務は、長期的な目標を達成するために、不確実性が高く未知の問題の組み合わせを切り抜けることです。この場合の結果は、ずっと複雑なものになります。本質的に予想される一連の結果がなく、エージェントがマッピングできないためです。この例には、希少疾患用の医薬品の発見、材料工学分野での飛躍的な進展、宇宙の性質を深く理解するための新しい物理学実験の実施などがあります。決定論の欠如は、ある種の生成的な創造性であり得るため、このような分野においては有益なものとなり得ます。

既存のGDPアプリケーションに焦点を当てたエージェントは、すでに価値を解放しています。Tasker、Lindy、Anonなどのチームはすべて、この機会に向けてインフラストラクチャを構築しています。しかし、時間が経つにつれてエージェントの性能が成熟し、ガバナンスモデルが進化するにつれて、チームは、人間の知識と経済機会の最前線で問題を解決できるエージェントの構築に焦点を移すことになります。

この次のエージェント集団は、不確実な回答を無制限に作成するため、指数関数的に多くのリソースを必要とします。これらが最も有力な従業員ゼロ企業になるだろうと予想しています。

人間はどのようにエージェントと関わり合うのか。

今日のエージェントは、現実世界での物理的なやり取りを必要とするタスク（ブルドーザーの運転）や、人間の関わりが求められるタスク（銀行の電信送金）を実行する能力に欠けています。

たとえば、リチウムを特定して抽出する任務を負うエージェントは、地震に関するデータや衛星画像、地質学的な記録を処理して、採掘現場を特定するのに優れていますが、データや画像自体の出典を特定したり、解釈の曖昧さを解決したり、実際の抽出プロセスを実行するための許可を得たり労働の契約を結んだりしようとする場合はうまくいきません。

このような制限があるため、人間がエージェントを成功要因として追加で使用することで、必須となる現実世界との接点や戦術的な介入を提供し、上述のタスクを完了させる上で求められる戦略的な操作を実現させる必要があります。人間とエージェントの関係が進化するにつれて、エージェントシステムで人間が果たす役割を区別することもできます。

1. 第一に、現実世界でエージェントに代わって操作する労働貢献者としての役割です。これらの貢献者は、エージェントが物理的な物体を移動するサポートを行い、人間が必要とされる場合にエージェントの代理となり、労力を必要とする作業を実行し、実験室や物流ネットワークへのアクセスを許可します。
2. 第二に、戦略的な助言を提供し、エージェントの日常的な判断を推進するローカルの目標機能を、エージェントの目的を定義する指針と一致させながら改善する取締役としての役割です。

この2つの役割に加えて、人間が資本貢献者、つまり資金調達エージェントシステムの役割を果たし、必要なリソースを使って目標を達成するものと考えています。この資本は、当然のことながら最初は人間に由来し、時間が経つにつれて他のエージェントに由来するようになります。

エージェントが成熟し、労働力や助言の提供者の数が増加するにつれて、暗号資産レールは、人間とエージェントが協働するための理想的な基盤を提供します。このことは、異なる言語を話し、異なる通貨で支払いを受け、世界中のあらゆる管轄区域に住む人間をエージェントが指揮している世界では、特に好都合です。エージェントは、定められた使命を達成するために容赦なくコスト効率を追求し、労働市場を活用します。これらの労働力と助言提供者を協働させる方法を備えるために、暗号資産レールが必要となるのです。

Freysa、Zerebro、ai16のような暗号化に対応する最近のAIエージェントは、資本形成における簡単な試みを表すものです。これは、さまざまな状況で暗号プリミティブと資本市場のコアをロック解除するものとして、拙著で広範に渡って記述した内容です。これらはおもちゃであり、リソースに調整に向けた新しいモデルが出現するための下地となるものです。私は、以下のことが起こると予想しています。

1. ステップ1：人間は全体としてトークン（初期エージェントオファー？）を通じて資本を集め、広範な目的を達成するための機能と制約を確立してエージェントシステムの本来の目的を知らせ、調達した資本の制御をシステムに割り当てる（プレシジョン腫瘍学のための新しい分子開発など）。
2. ステップ2：エージェントは、その資本を割り当てるステップ（タンパク質折り畳みの検索範囲を絞る方法、推論ワークロード、製造、臨床試験などの予算を立てる方法など）について論理的に考え、人間の労働貢献者がカスタムの報奨金を介して完了するためのアクションを定義（例えば、関連するすべての分子セットの入力、AWSでコンピューティングSLAに署名、ウェットラボでの実験の試行など）。
3. ステップ3：エージェントが重大な問題や分岐点に遭遇する際、必要に応じて取締役から戦略的な意見を求める（新しい論文の採用、研究方法の変更）。これにより、エージェントの行動を誘導できるようになる。
4. ステップ4：最終的にエージェントは、人間のアクションをより正確に定義できる程までに改善するため、リソースの割り当て方法に関する操作は最小限で済む。 この時点で人間に必要なことは、システムを社会的な観念に基づいて調整し、当初の目的を達成するための機能から外れないようにするだけです。

この例では、暗号プリミティブと資本市場がエージェントに対し、リソースを獲得して機能を拡張するための3つの重要なインフラストラクチャを提供します。まず、グローバルな支払いレール、二つ目は、労働力とガイダンスの貢献者に動機づけをするパーミッションレスな労働市場。三つ目は、資本形成とダウンストリーム所有権とガバナンスに必要な資産発行と取引インフラストラクチャです。

人間による操作が減るとどうなるか。

2000年代初期、チェスエンジンは劇的に改善されました。高度なヒューリスティクス手法、ニューラルネットワーク、およびコンピュータによる計算の増加によって、チェスエンジンは実質的に完璧なものとなったのです。Stockfish、Lc0、異なる仕様のAlphaZeroなどの最新のエンジンは、人間の能力をはるかに超えており、人間による操作で価値が付加されることはほとんどなく、大抵はエンジンそのものが引き起こすことがないエラーを発生させてしまいます。

似たような方向性をエージェント型システムで展開することができます。人間の協力者との反復的なやり取りを通じてエージェントを改良することで、長い目で見ればエージェントが非常に有能で目的に沿うようになるため、人間による戦略的な操作の価値がゼロになるものと予想されます。

そのような世の中では、エージェントが人間の介入を必要とせずに複雑な問題を一貫して対応するようになり、人間の役割が受動的な観察者の役割へと縮小される危険性があります。これは、AI Doomers（AIによる人類破滅を危惧する人々）が主に抱いている恐怖です（ただし、この結果になり得るかどうかは不明です）。

私たちはスーパーインテリジェンスの瀬戸際に立っています。楽観主義者らは、エージェントシステムが独自の目標を生み出したり、自律性に歯止めが効かない状態で実行されるのではなく、あくまでも人間の意図を拡張したものであり続けることを望んでいます。実際には、これは、引き続き人間のアイデンティティ（パーソナリティ）と判断（力と影響力）がこれらのシステムの中核を成すべきであることを意味します。人間は、人間としての集合的な価値観でこれらのシステムに対する監視を継続し、システムに組み入れるために、システムに対する強い当事者意識と管理権を持つことが必要となるのです。

将来のエージェント型世界に向けたピック＆ショベル戦略

技術の飛躍によって経済が非線形的に成長し、世の中がその成長に適合するのを待たずして周辺のシステムが破綻することがよくあります。エージェントシステムの機能は急速なペースで改善されています。暗号プリミティブと資本市場は、これらのシステムの構築を推進すること、そしてシステムが社会に溶け込むにつれて制約を設定することの両方で、非常に重要な調整基板として機能しています。

人間がエージェントシステムを戦術的にサポートし、積極的なガイダンスを提供するために、次のピック＆ショベル戦略の機会が出現するものと予想しています。

1. エージェントであることの証明＋人間であることの証明：エージェントには、アイデンティティや財産権の概念がありません。エージェントは人間の代理として、人間の法的な構造や社会構造に依存して代理業務を行います。この差を埋めるには、エージェントと人間の両方に堅牢なアイデンティティシステムを制定することが必要です。デジタル認証レジストリにより、エージェントは評判を築き、クレデンシャルを蓄積し、透明性を確保して人間や他のエージェントとやり取りすることができます。同様に、HumancodeやHumanity Protocolなど、プルーフ・オブ・パーソンフッド（人間であることの証明）のプリミティブを使用することで、これらのシステム内の敵対的なアクターに対する人間のアイデンティティが強力に保証されます。
2. 労働市場とオフチェーン検証プリミティブ：エージェントは、割り当てたタスクが目標通りに完了していることを確認する必要があります。エージェントシステムが報奨金を作成し、完了を検証し、支払いを分配することを可能にするツールは、エージェントが媒介となって実施されるあらゆる有意義な経済活動に欠かせないものです。
3. 資本形成とガバナンスシステム：エージェントには、問題を解決するための資本や、定義された目標達成のための機能に沿って行動していることを確認するためにチェック・アンド・バランスが必要です。エージェントシステムの資本を調達するための新しい構造、そして金銭的な利害関係と労働の貢献を組み合わせた新しい形式の主体性と制御機能は、今後数か月で豊富に設計される分野となるでしょう。

当社は、このような人間とエージェントの協働スタックの重要なレイヤーに積極的に投資することを検討しています。この分野で構築に携わっておられる場合は、ぜひご連絡ください。