역전하는 인간과 에이전트의 관계

1997년 IBM의 딥 블루가 체스 경기에서 당시 세계 챔피언이었던 게리 카스파로프를 꺾자, 컴퓨터 체스 엔진이 곧 인간을 능가할 것이라는 사실이 분명해졌습니다. 인간과 컴퓨터의 능력을 결합하는 협업 방식을 지칭하는 '센타우르'는 현존하는 가장 강력한 엔진의 성능을 능가할 수 있습니다.

뛰어난 인간의 직관을 활용하면 엔진 검색 방향을 수립하고, 난도 높은 체스 경기를 풀어나가고, 표준 엔진이 누락하는 미묘한 차이를 인식할 수 있는데, 이러한 직관을 컴퓨터의 억지 기법 연산 능력과 결합하면 컴퓨터만 단독으로 사용하는 경우보다 더 실용적인 결정이 도출되는 경우가 많았습니다.

저는 향후 수년간 노동 시장과 경제에 영향을 미칠 AI 시스템 또한 이와 유사한 흐름을 보일 것으로 예상합니다. 에이전트 시스템은 에 이르는 다양한 형태의 인공지능을 활용하여 전 세계의 난제에 대한 수많은 해결책을 제시할 것입니다. 하지만 이는 인간의 분명한 지침과 지원 없이는 실현될 수 없으므로, 인간이 탐색 공간을 설정하고 질문의 방향성을 수립한 뒤 AI로부터 답변을 도출해낼 것입니다.

현재는 에이전트가 인간의 대리역을 수행하게 될 것이라는 가정이 주도적인데, 이러한 가정은 현실적이고 필연적이나 더욱 흥미로운 경제적 변화는 오히려 인간이 에이전트를 위해 일하는 구조를 통해 발생합니다. 저는 향후 24개월 이내에 저의 파트너인 Kyle이 2025 프론티어 아이디어에서 처음 제시한 개념인 '무인 기업'이 최초 등장할 것으로 예상합니다. 이를 구체화하면 다음과 같습니다.

1. 토큰 기반 에이전트는 10억 달러 이상을 확보하여 희귀 질환 치료, 방어 응용 분야용 나노섬유 제조 등의 분야에 기여할 것
2. 해당 에이전트를 통해 인간(현실 세계에서 에이전트의 목표를 달성하기 위해 일하는 집단)은 1억 달러 이상의 수익을 창출할 것
3. 전반적인 거버넌스가 단순히 금전적 보상만을 기준으로 하지 않도록 투입 자본과 노력에 기반하여 소유권을 분리하는 새로운 이중 클래스 토큰 구조가 나타남

에이전트는 주권을 갖지 않으며 장기적인 계획을 세우고 실행하는 능력이 부족하기 때문에 단기적으로는 인간이 에이전트를 필요로 하는 정도보다 에이전트가 인간의 개입을 더 많이 요하며, 이로써 창출되는 새로운 노동 시장을 통해 에이전트 시스템과 인간 간의 경제적 조정이 가능해질 것입니다.

"컴퓨터와 인터넷의 확산으로 인간의 일자리는 '컴퓨터에 명령하는 직업'과 '컴퓨터의 명령을 받는 직업'으로 나뉠 것"이라는 마크 안드리슨의 주장은 오늘날 그 어느 때보다 더욱 현실적으로 다가옵니다. 저는 빠르게 진화하는 이러한 인간과 에이전트 간의 관계에서 인간의 역할은 에이전트를 대신하여 소규모의 작업을 수행하여 그에 대한 보상을 현상금처럼 배분 받는 '노동 기여자'와 에이전트의 최우선 목표를 달성하기 위한 전략적 조언을 제공하는 '탈중앙화 이사회'라는 두 유형으로 나뉠 것이라 예상합니다.

본 에세이는 다음의 세 가지 질문을 통해 에이전트와 사람이 어떤 방식으로 가치를 공동 창출하며, 이러한 조정에 암호화 레일이 어떻게 이상적인 토대가 되는지 살펴봅니다.

1. 에이전트를 활용할 수 있는 분야가 무엇인가? 에이전트를 그 목표 범위에 따라 어떻게 분류해야 하며, 각 분류에 따라 요구되는 인적 개입의 수준은 어떻게 달라지는가?
2. 인간은 에이전트와 어떻게 상호 작용하는가? 전략적 지침, 상황별 판단, 이념적 조율과 같은 인간의 개입이 이러한 에이전트 워크플로우에 어떻게 반영되며, 그 반대로 에이전트는 인간의 의사결정 과정에 어떤 영향을 주는가?
3. 시간의 경과에 따라 인간의 개입이 감소하면 어떻게 되는가? 에이전트의 성능이 발전하여 에이전트가 자체적으로 추론 및 행동하는 '자립성'이 확보된 현재의 패러다임에서 인간은 어떤 역할을 할 것인가?

생성 기반 추론 시스템과 그로 인한 혜택을 받는 인간 집단의 관계는 시간의 추이에 따라 크게 변화할 것입니다. 저는 현재 에이전트의 역량이 어느 수준에 도달했는지를 기반으로 미래를 전망하고, 동시에 '무인 기업'이라는 궁극적인 형태에서 거꾸로 접근하여 이러한 관계를 분석합니다.

오늘날 에이전트를 유용하게 활용할 수 있는 분야는?

ChatGPT, Gemini, Claude, Perplexity 등 2022~2024년에 런칭된 챗봇 기반 LLM인 1세대 AI 시스템은 대부분 인간의 작업 능력을 향상하도록 설계되었으며, 이러한 시스템에서는 사용자가 입력/출력 프롬프트 쌍을 통해 이러한 시스템과 상호 작용하고 응답을 구문 분석한 다음 독자적인 판단을 통해 그 결과를 현실에 적용합니다.

차세대 AI 시스템, 즉 '에이전트'는 새로운 양상을 대표합니다. '컴퓨터 활용성'을 갖춘 Claude 3.5.1 및 OpenAI의 Operator 등의 AI는 인터넷과 직접 상호작용하여 사용자 대신 정보를 검색하고 독자적인 의사 결정을 내릴 수 있습니다. 여기서 중요한 차이점은 판단과 최종적인 행동이 인간이 아닌 AI 시스템에 의해 이루어진다는 점입니다. AI는 과거 인간이 수행하던 역할과 책임을 대신하게 되었습니다.

하지만 이러한 전환은 결정의 결여라는 과제를 수반합니다. 정의된 매개 변수 내에서 예측 가능한 방식으로 작동하는 기존의 소프트웨어 시스템이나 산업 자동화와 달리, 에이전트는 확률적 추론을 기반으로 작동합니다. 이로 인해 동일한 시나리오에서도 일관성이 떨어지며 불확실성이 발생할 가능성이 높아지므로 중요한 상황에는 적합하지 않습니다.

다르게 표현하면 에이전트는 기존 GDP를 확장하는 데 최적화된 유형인 '결정론적 에이전트', 새로운 GDP 창출에 더 적합한 유형인 '비결정론적 에이전트'라는 두 유형으로 자연스럽게 나눌 수 있습니다.

1. 기존 GDP 확장에 최적화된 에이전트의 경우, 해당 에이전트가 수행할 작업은 본질적으로 이미 정의되어 있습니다. 고객지원 자동화, 화물 운송 관련 컴플라이언스 업무, GitHub PR 검토 등은 명확하게 정의된 문제로, 예상되는 결과 집합에 맞춰 에이전트가 쉽게 대응할 수 있는 분야에 해당합니다. 이렇게 정답이 이미 존재하는 분야에서는 창의력을 요하지 않으므로 결정이 결여된 경우 부정적 영향이 발생합니다.
2. 새로운 GDP 창출에 최적화된 에이전트는 높은 불확실성과 미지의 문제를 탐색하여 장기적인 목표를 달성하는데, 이 경우는 에이전트가 참조할 수 있는 예측 결과 집합이 본질적으로 존재하지 않으므로 결과를 예측하기가 훨씬 더 어렵습니다. 희귀 질환을 위한 신약 개발, 소재공학의 획기적인 발전, 우주의 본질을 더 잘 이해하기 위한 새로운 물리 실험 등이 이러한 예에 해당되는데, 이 경우 결정이 결여되었다는 점이 생산적인 창의성으로 작용하기 때문에 오히려 도움이 되기도 합니다.

기존 GDP 응용 분야를 중심으로 한 에이전트는 이미 시장에서 가치를 창출하고 있습니다. Tasker, Lindy, Anon과 같은 팀은 모두 이러한 기회를 목표로 하는 인프라를 구축하고 있는데, 시간의 경과에 따라 기능이 성숙하고 거버넌스 모델이 발전함에 따라 인간 지식과 경제적 기회의 최전선에서 문제를 해결할 수 있는 에이전트가 집중적으로 구축될 것입니다.

이러한 차세대 에이전트는 결과가 불확실하고 제한이 없기 때문에 기하급수적으로 더 많은 자원을 필요로 하며, 저는 이러한 에이전트가 가장 매력적인 무인 기업으로 기능할 것으로 예상합니다.

인간은 에이전트와 어떻게 상호 작용하는가?

오늘날 에이전트는 불도저 운전과 같은 실제 세계와의 물리적 상호 작용이나 은행 송금처럼 인간 간의 연동 작업이 필요한 작업은 수행할 수 없습니다.

예를 들어, 리튬 탐사 및 채굴 작업을 담당하는 에이전트는 지진 데이터, 위성 이미지 및 지질 기록을 분석하여 유망한 채굴지를 잘 식별할 수 있습니다. 그러나 데이터 및 이미지 자체를 소싱하거나, 해석상의 모호함을 해소하거나, 실제로 채굴을 수행하기 위한 허가를 취득하거나 인력 계약을 조정하는 과정에서는 한계가 있을 수 있습니다.

따라서 인간이 에이전트를 보조하여 작업을 완료하는 데 필요한 현실적 접점을 마련하고, 전술적 개입과 전략적 조언을 제공해야 합니다. 인간과 에이전트의 관계가 발전함에 따라 인간이 에이전트 시스템에서 수행하는 역할도 구분할 수 있습니다.

1. 첫 번째는 실제 세계에서 에이전트를 대신하여 운영하는 노동 기여자로서의 역할입니다. 이 역할은 에이전트가 유형의 물체를 이동하도록 돕고, 인간의 개입이 필요한 상황에서 에이전트를 대리하며, 신체 능력이 필요한 작업을 수행하고, 실험실이나 물류 네트워크에 대한 접근 권한을 부여하는 작업을 담당합니다.
2. 두 번째 역할은 에이전트가 단기적으로 내리는 의사 결정이 궁극적인 목표와 일관성을 갖도록 조정하는 이사회 역할로, 전략적 방향을 제시하고 운영 과정에서 세부적인 목표를 설정 및 조정하며 에이전트가 바른 경로를 따르도록 관리합니다.

이 두 가지 역할 이외에도 인간이 자본 제공자 역할을 맡아 에이전트 시스템이 목표를 달성할 수 있도록 필요한 자원을 지원하고 자금을 투입할 수 있습니다. 초기에는 이러한 자본이 자연스럽게 인간으로부터 공급되겠지만, 시간이 흐르면 다른 에이전트를 통해서도 공급될 것입니다.

에이전트가 발전하고 노동 기여자 및 가이드 역할의 기여자들이 증가함에 따라, 암호화 인프라는 인간과 에이전트 간 협업을 위한 최적의 기반이 될 것입니다. 특히 인간이 사용하는 언어와 급여가 지급되는 통화, 법적 환경이 나라별로 다르기 때문에 미래 사회에서는 에이전트가 이러한 차이를 조율하는 중요한 역할을 담당할 것입니다. 에이전트는 주어진 임무를 달성하기 위해 비용 효율을 극대화하고 노동 시장을 적극적으로 활용할 것이며, 이러한 노동 기여자 및 가이드 역할의 기여자들과 효율적으로 협력하기 위해서는 암호화 인프라가 필요합니다.

Freysa, Zerebro, ai16와 같이 암호화를 활용하는 최신 AI 에이전트는 새로운 방식으로 자본을 형성하는 실험적인 시도이며, 이는 저희가 다양한 관점에서 암호화 기술과 자본 시장의 핵심적인 혁신 요소로 깊이 연구한 내용이기도 합니다. 이러한 기술들은 새로운 자원 조정 방식이 수립되는 토대가 될 것이며, 저는 그러한 변화가 다음의 방식으로 이루어질 것이라 생각합니다.

1. 1단계: 인간은 토큰을 통해 자본을 공동으로 조달(초기 에이전트 펀딩)하고, 에이전트 시스템이 어떤 목표를 추구해야 하는지 정의하고 그 과정에서 따라야 할 규칙과 방향성을 수립한 다음 조달한 자본의 운영 권한(예: 정밀 종양 치료를 위한 새로운 분자 개발)을 시스템에 할당합니다.
2. 2단계: 에이전트는 자본 배분에 필요한 전략을 수립(단백질 접힘 탐색 범위 좁히기, 추론 워크로드와 제조 공정 및 임상 실험에 대한 예산 편성 등)하고, 맞춤형 보상 시스템을 통해 인간 기여자들에게 특정 작업을 위임(관련 분자 목록 입력하기, AWS SLA 체결하기, 실험실에서 실험 진행하기 등)합니다.
3. 3단계: 에이전트가 장애물에 부딪히거나 여러 선택지를 갖게 되면 필요에 따라 이사회로부터 전략적 의견을 요청(새로운 논문 통합, 연구 방법 전환)하며, 이사회는 에이전트의 자율적 운영을 지원하는 동시에 핵심 목표에서 벗어나지 않도록 방향을 조정하게 됩니다.
4. 4단계: 이에 따라 에이전트는 인간의 작업을 더욱 정확하게 정의하도록 성능이 향상되며, 리소스 할당 방안에 필요한 인간의 개입 수준이 최소화되므로 이 시점에서 인간은 시스템의 운영 윤리와 가치관을 조정하고 시스템이 초기 목표에서 벗어나지 않도록 돕는 수준으로만 개입합니다.

본 예시에서 암호화 기반 기술과 자본 시장은 에이전트가 자원을 확보하고 역량을 확대하는 데 필요한 세 가지 중요 인프라를 제공하는데, 그것은 바로 글로벌 결제 인프라, 노동 기여자 및 가이드 역할 기여자에 대한 인센티브를 제공하기 위한 개방형 노동 시장, 자본 형성 및 다운스트림 소유권 및 거버넌스에 필요한 자산 발행 및 거래 인프라입니다.

인간의 개입이 감소하면 어떤 영향이 발생하는가?

2000년대 초반 체스 엔진의 성능은 고급 휴리스틱, 신경 네트워크 및 향상된 컴퓨팅을 통해 크게 발전하여 실질적으로 완벽하게 작동했습니다. Stockfish, Lc0, AlphaZero 등의 최신 엔진은 인간의 역량을 훨씬 앞질러 인간의 개입을 요하지 않으며, 이러한 엔진에서 발생하는 오류는 대부분의 경우 엔진 자체에 발생하지 않는 유형의 오류입니다.

에이전트 시스템 또한 이와 유사한 방식으로 전개될 것입니다. 이러한 에이전트는 인간 협업자의 반복적인 조정을 통해 개선되어 장기적으로 매우 유능해지며, 결과적으로는 인간의 전략적 개입이 전혀 필요하지 않은 수준으로 발전할 것입니다.

이 경우 에이전트가 인간의 개입을 필요로 하지 않고 복잡한 문제를 지속적으로 탐색하므로 인간의 역할은 수동적 관찰자 수준으로 축소되는데, 바로 이것이 (실현 가능성이 불분명하다는 사실은 차치하고) AI 반대 세력이 우려하는 핵심적인 안건입니다.

우리는 초지능의 시대로 전환되는 문턱에 서있으며, 낙관주의자들은 에이전트 시스템이 독자적인 목표를 발전시키거나 통제를 벗어난 자율성을 가져서는 안되며 인간의 의도를 도구로만 남기를 희망합니다. 이는 인간의 정체성(인간성)과 판단력(힘과 영향력)이 이러한 시스템의 핵심으로 남아야 한다는 뜻입니다. 인간이 이러한 시스템을 지속적으로 감독하고, 시스템 운영이 인간 공통의 가치에 부합하도록 보장하려면 강력한 소유권과 거버넌스 권한이 필요합니다.

에이전트 활용 빈도가 증가할 미래를 위한 도구

기술 혁신은 경제 발전을 폭발적으로 가속하며, 기존 시스템은 이러한 변화에 적응하지 못하고 무너질 수 있습니다. 에이전트 시스템은 빠른 속도로 발전하고 있으며, 암호화 기반 기술과 자본 시장은 이미 이러한 시스템의 구축을 촉진하는 동시에 사회에 정착하는 과정에 필요한 기준과 규칙을 정하는 중요한 조정 인프라 역할을 하고 있습니다.

인간이 에이전트 시스템에 대한 전술적 지원과 적극적 지침을 제공하기 위해서는 다음과 같은 새로운 비즈니스 기회와 도구들이 등장할 것입니다.

1. 에이전트성 증명 + 인간성 증명: 에이전트는 신원 또는 재산권에 대한 개념이 없는데, 에이전트는 결국 인간의 대리역이므로 인간이 구축한 법률 및 사회적 구조를 따라야 합니다. 이러한 격차를 해소하려면 에이전트와 인간에 대한 강력한 ID 시스템을 마련해야 합니다. 디지털 인증 레지스트리를 사용하면 에이전트가 평판을 구축하고, 자격 증명을 축적하고, 인간 및 다른 에이전트와 투명하게 상호작용할 수 있습니다. 마찬가지로, Humancode 및 Humanity Protocol과 같은 인간성 증명 기반 기술은 이러한 시스템 내의 악위적 행위자로부터 인간 ID를 강력하게 보호합니다.
2. 노동 시장 및 오프체인 검증 기반 기술: 에이전트는 지정한 작업이 목표에 따라 완료되었다는 사실을 알아야 합니다. 에이전트가 중개하는 경제활동이 실질적으로 이루어지려면 에이전트 시스템이 보상 시스템을 수립하고, 작업 완료 여부를 확인하며, 보상을 지급하는 도구가 반드시 필요합니다.
3. 자본 형성 및 거버넌스 시스템: 에이전트가 문제를 해결하려면 자본이 필요하며, 설정된 목표에 맞춰 작동하도록 견제하고 균형을 바로잡는 시스템을 갖춰야 합니다. 향후 수개월 동안 에이전트 시스템이 자본을 조달하는 방식의 혁신 방안과 금융 지분 및 노동 기여를 결합한 새로운 형태의 소유 및 통제 구조에 대해 다양한 실험과 논의가 이루어질 것입니다.

저희는 이렇게 인간과 에이전트의 관계가 조정되는 중대한 레이어에 대한 투자 기회를 적극적으로 모색하고 있습니다. 이 분야에 열정을 가지고 계신 분은 저희에게 연락을 부탁드립니다.