Inversión de la relación hombre-agente

En 1997, Deep Blue de IBM derrotó en un partido de ajedrez , el entonces campeón mundial Garry Kasparov, quedando claro que los motores de ajedrez de la computadora pronto superarían a los humanos. Curiosamente, un humano bien preparado que trabaje junto con una computadora, un acuerdo a menudo llamado "centaur", podría superar a los motores más fuertes de esa era.

Una intuición humana habilidosa sería capaz de orientar la búsqueda del motor, navegar por juegos intermedios complejos y reconocer los matices ignorados por los motores estándar. En comparación con el cálculo de fuerza bruta de una computadora, la unión de ambos a menudo generaba mejores decisiones prácticas que una computadora desacompañada.

Cuando pienso en cómo los sistemas de IA afectarán a los mercados laborales y las economías en los próximos años, mi expectativa es poder encontrarme con un patrón similar. Los sistemas de agentes permitirán, innumerables unidades de inteligencia sobre problemas no resueltos en el mundo, pero esto no será posible sin una fuerte orientación y apoyo de los humanos. Los humanos guiarán el espacio de búsqueda y ayudarán haciendo las preguntas correctas, lo cual permitirá que las IA trabajen en función de las respuestas.

El trabajo de hoy en día presupone que los agentes actuarán a pedido de los humanos. Si bien esto es práctico e inevitable, surgirá una mejora económica mucho más interesante cuando los humanos trabajen para las . En los próximos 24 meses, espero encontrarme con la primera empresa con cero empleados, un concepto que mi socio Kyle acuñó en su sección de Ideas de frontera para 2025. Específicamente, espero lo siguiente:

1. Un agente gobernado por tokens recaudará más de mil millones de dólares para resolver un problema no resuelto (como curar una enfermedad rara o fabricar nanofibras para aplicaciones de defensa).
2. Este agente distribuirá más de 100 millones de dólares en pagos a los humanos (que trabajan para dicho agente a fin de lograr sus objetivos en el mundo no virtual).
3. Surge una nueva estructura de tokens de tipo doble que separa la propiedad basada en el capital y el trabajo (de tal manera que los incentivos financieros no son el único aporte a la gobernanza general).

Debido a que los agentes no están ni cerca de ser soberanos ni de poder manejar, a corto plazo, la planificación y la ejecución a largo plazo, los agentes necesitan a los humanos más de lo que los humanos necesitan a los agentes. Esto producirá nuevos mercados de trabajo que permitirán la coordinación económica entre los sistemas de agentes y los humanos.

La famosa cita de Marc Andreessen, "La propagación de las computadoras e Internet harán que los trabajos sean de dos categorías: las personas que le dicen a las computadoras qué hacer y las personas a las que las computadoras les dicen qué hacer", suena hoy más cierta que nunca. Espero que, en la jerarquía agente/humano en rápida evolución, los humanos desempeñen dos roles distintos: los contribuyentes laborales que realizan pequeñas tareas de tipo por recompensa para los agentes y una junta de directores descentralizada que proporcione aportes estratégicos al servicio de la estrella guía del agente.

Este ensayo explora cómo los agentes y los humanos cocrearán y cómo los rieles cripto proporcionarán el sustrato ideal para esta coordinación, mediante el análisis de tres preguntas centrales:

1. ¿Para qué sirven los agentes? ¿Cómo debemos clasificar a los agentes en función del alcance de sus objetivos y la diversidad del rango de aportes humanos necesarios para estas clasificaciones?
2. ¿Cómo interactuarán los humanos con los agentes? ¿Cómo se incorporan los aportes humanos (la orientación táctica, el juicio contextual o la alineación ideológica) en los flujos de trabajo de estos agentes y viceversa?
3. ¿Qué ocurrirá a medida que, con el correr del tiempo, disminuya la contribución humana? A medida que las capacidades de los agentes mejoren, se vuelvan autosuficientes, es decir, capaces de razonar y actuar por su cuenta. En este paradigma, ¿qué papel jugarán los humanos?

La relación entre los sistemas de razonamiento generativo y las personas que los aprovechan evolucionará radicalmente con el pasar del tiempo. Examino esta relación mirando hacia adelante en función de las capacidades de los agentes hoy en día y trabajando hacia atrás en función del estado final de una empresa con cero empleados.

¿Para qué sirven los agentes hoy en día?

La primera generación de sistemas de IA generativa, los LLM basados en chatbots de la era 2022-2024, como ChatGPT, Gemini, Claude, Perplexity, etc., son en gran medida herramientas diseñadas para aumentar los flujos de trabajo humanos. Los usuarios interactúan con estos sistemas a través de pares de solicitudes de entrada / salida, analizan las respuestas y luego atribuyen su propio juicio sobre cómo llevar al mundo los resultados.

La próxima generación de sistemas de IA generativa, o "agentes", representan una nueva modalidad. Los agentes como Claude 3.5.1 con "uso de la computadora" y el Operator de OpenAI (es decir, los agentes que pueden usar su computadora) tienen la capacidad de interactuar directamente con Internet en nombre de los usuarios y pueden tomar decisiones por su cuenta. La diferencia clave aquí es que el sistema de IA, no el humano, ejerce el juicio, y en última instancia la acción. La IA está asumiendo una responsabilidad que antes estaba reservada para los humanos.

Esta transición introduce un desafío: la falta de determinismo. A diferencia de los sistemas de software tradicionales o la automatización industrial, que funcionan de manera predecible dentro de parámetros definidos, los agentes se basan en el razonamiento probabilístico. Esto hace que su comportamiento sea menos consistente en escenarios idénticos e introduce elementos de incertidumbre, lo cual no es ideal para situaciones críticas.

Dicho de otra manera, la existencia de agentes deterministas frente a los no deterministas se divide naturalmente en dos formas de clasificar a los agentes: los que son mejores para escalar el PIB existente y los que son más adecuados para crear un nuevo PIB.

1. En el caso de los mejores agentes para escalar el PIB existente, los trabajos son, por definición, ya conocidos. Automatizar la asistencia al cliente, manejar el cumplimiento de reenvío de carga, o revisar los PR de github deson ejemplos de problemas bien definidos y limitados donde los agentes pueden mapear las respuestas para un conjunto de resultados esperados de manera directa. La falta de determinismo es generalmente mala en estos dominios, ya que hay una respuesta conocida; no se requiere de creatividad.
2. En el caso de los mejores agentes para crear un nuevo PIB, el trabajo consiste en navegar por la alta incertidumbre y los conjuntos de problemas desconocidos para cumplir los objetivos a largo plazo. Los resultados aquí son mucho menos directos, porque no hay un conjunto de resultados intrínsecamente esperados para el mapeo del agente. Los ejemplos aquí incluyen el descubrimiento de medicamentos para enfermedades raras, avances en la ciencia de los materiales o la ejecución de nuevos experimentos de física de redes para comprender mejor la naturaleza del universo. La falta de determinismo puede ser útil en estos dominios, ya que la falta de determinismo es una forma de creatividad generativa.

Los agentes centrados en las aplicaciones de PIB existentes ya están desbloqueando valores. Equipos como Tasker, Lindy y Anon están construyendo infraestructura en razón de esta oportunidad. Sin embargo, en el futuro, a medida que las capacidades maduren y los modelos de gobierno evolucionen, los equipos cambiarán su enfoque en la creación de agentes capaces de resolver los problemas en la frontera del conocimiento humano y la oportunidad económica.

Esta próxima cohorte de agentes requiere de manera acelerada más recursos precisamente porque sus resultados son inciertos e ilimitados: estas son las que espero que sean las empresas de cero empleados más convincentes.

¿Cómo será la interacción de los humanos con los agentes?

Los agentes de hoy en día carecen de la capacidad de realizar tareas que requieran interacciones físicas con el mundo real (conducir un bulldozer) y/o que requieran tareas de humanos en bucle (enviar una transferencia bancaria).

Por ejemplo, un agente encargado de la misión de identificar y extraer litio puede sobresalir en el procesamiento de datos sísmicos, imágenes de satélite y registros geológicos para identificar sitios prometedores, pero fallar al intentar obtener los datos y las imágenes en sí, resolver ambigüedades en las interpretaciones u obtener permisos y contratar mano de obra para ejecutar el proceso de extracción real.

Estas limitaciones requieren que los humanos aumenten a los agentes como habilitadores para proporcionar los puntos de contacto necesarios del mundo real, las intervenciones tácticas y los aportes estratégicos necesarios para completar dichas tareas. A medida que la relación entre los humanos y los agentes evoluciona, también podemos distinguir los roles que los humanos desempeñan en los sistemas de agentes:

1. Primero, los contribuyentes de mano de obra que operan en nombre de los agentes en el mundo real. Estos contribuidores permiten que los agentes muevan cosas físicas, representan al agente cuando se necesita un humano, realizan trabajos que requieren brazos y piernas, otorgan acceso a laboratorios experimentales o redes de logística, etc.
2. En segundo lugar, una junta de directores que suministre información estratégica y refine las funciones de los objetivos locales que impulsan las decisiones diarias de los agentes, al tiempo que garantiza su alineación con la estrella guía que define el propósito del agente.

Además de estos dos, también espero que los humanos desempeñen el papel de contribuyentes de capital, de sistemas de agentes de financiación con recursos para avanzar y lograr sus objetivos. Este capital provendrá naturalmente de los humanos al comienzo y de otros agentes a futuro.

A medida que los agentes maduran y el número de contribuyentes de mano de obra y orientación crece, los rieles cripto proporcionan el sustrato ideal para la coordinación entre humanos y agentes, especialmente en un mundo en el que los agentes dirigen a los humanos que hablan diferentes idiomas, se les paga en diferentes monedas y viven en diferentes jurisdicciones en todo el mundo. Los agentes buscarán implacablemente la eficiencia de los costos y explotarán los mercados de trabajo en un esfuerzo por lograr su mandato establecido. Los rieles cripto son necesarios para que estos cuenten con una forma de coordinar a los contribuyentes de mano de obra y orientación.

Los recientes agentes de IA habilitados para criptografía como Freysa, Zerebro y ai16z representan experimentos simples en la formación de capital, algo que hemos escrito ampliamente como un desbloqueo fundamental de primitivos de criptografía y mercados de capital en una variedad de contextos. Estos son los juguetes que allanará el camino en función de un nuevo modelo emergente para la coordinación de recursos, que espero que ocurra de la siguiente manera:

1. Paso 1: los humanos recaudan capital colectivamente a través de tokens (¿oferta inicial de agentes?), establecen una función de objetivo amplia y barreras para informar el propósito previsto del sistema de agentes y, a continuación, asignan el control del capital recaudado al sistema (por ejemplo, el desarrollo de nuevas moléculas para la oncología de precisión);
2. Paso 2: el agente razona los pasos para asignar ese capital (cómo reducir el espacio de búsqueda para el plegamiento de proteínas y cómo presupuestar las cargas de trabajo de inferencia, la fabricación, los ensayos clínicos, etc.) y define las acciones para que los contribuyentes de trabajo humano completen en su nombre, a través de recompensas personalizadas (por ejemplo, ingresar el conjunto de todas las moléculas relevantes, firmar un SLA de cómputo con AWS y ejecutar experimentos de laboratorio húmedo);
3. Paso 3: a medida que el agente se encuentra con obstáculos o bifurcaciones, solicita información estratégica de la junta de directores cuando necesario (incorporar nuevos documentos, cambiar el método de investigación), lo cual le permite guiar el comportamiento del agente al límite; y
4. Paso 4: con el tiempo, el agente mejora hasta un punto en el que puede definir acciones para los humanos con una precisión creciente y requiere una entrada mínima sobre cómo asignar recursos. En este punto, solamente se requiere de los humanos para alinear el sistema ideológicamente y evitar que actúe fuera de la línea de su función objetiva inicial.

En este ejemplo, los primitivos de criptografía y los mercados de capital le dan a los agentes tres piezas críticas de infraestructura para alcanzar recursos y expandir las capacidades: primero, rieles de pago globales; segundo, mercados de trabajo sin permisos para incentivar a los contribuyentes de trabajo y orientación; tercero, la emisión de activos y la infraestructura de comercialización, necesaria para la formación de capital y la propiedad y gobernanza a futuro.

¿Qué sucede a medida que disminuye la contribución humana?

A principios de la década de 2000, los motores de ajedrez mejoraron como nunca antes. A través de heurísticas avanzadas, redes neuronales y un aumento de la computación, se volvieron prácticamente perfectos. Los motores modernos como Stockfish, Lc0 y las variantes de AlphaZero están tan lejos de la capacidad humana que la entrada humana rara vez agrega valor y, en la mayoría de los casos, introduce errores que el motor no cometería por sí mismo.

Una trayectoria similar podría desarrollarse con los sistemas agenéticos. A medida que refinamos estos agentes a través de un ida y vuelta iterativo con los colaboradores humanos, es concebible que, a largo plazo, los agentes se vuelvan tan competentes y alineados con sus objetivos que el valor de cualquier entrada humana estratégica tienda a ser cero.

En un mundo de este tipo, donde los agentes navegan constantemente por problemas complejos sin requerir la intervención humana, el papel de los humanos corre el riesgo de disminuir al de los observadores pasivos. Este es el temor central de los fatalistas de la IA (sin embargo, no está claro que este resultado sea posible).

Estamos al borde de la superinteligencia, y los optimistas entre nosotros prefieren que los sistemas de agentes sigan siendo extensiones de la intención humana en lugar de entidades que desarrollen sus propios objetivos o funcionen con su autonomía sin control. En la práctica, esto significa que la identidad humana (personalidad) y el juicio (poder e influencia) deben seguir siendo fundamentales para estos sistemas. Los humanos van a necesitar fuertes derechos de propiedad y gobierno sobre estos sistemas, para garantizar que retengan la supervisión y anclen estos sistemas en los valores humanos colectivos.

Picos y palas para nuestro futuro de agentes

Los avances en la tecnología conducen a tasas no lineales de progreso económico, y los sistemas a su alrededor a menudo se rompen antes de que el mundo se ajuste. Los sistemas de agentes están mejorando sus capacidades a un ritmo acelerado, además, los primitivos de criptografía y los mercados de capital ya están sirviendo como el sustrato de coordinación muy necesario tanto para avanzar en la construcción de estos sistemas como para establecer barreras a medida que se integran en la sociedad.

Para que los humanos brinden apoyo táctico y orientación activa para los sistemas de agentes, esperamos que surjan las siguientes oportunidades de picos y palas:

1. Prueba de agencialidad + prueba de personalidad: los agentes carecen de los conceptos de identidad o derechos de propiedad. Como representantes de los humanos, dependen de las estructuras legales y sociales humanas para la agencia. Para cerrar esta brecha, necesitamos sistemas de identidad robustos tanto para los agentes como para los humanos. Un registro de certificación digital podría permitir que los agentes construyan reputación, acumulen credenciales e interactúen con los humanos y otros agentes de forma transparente. Del mismo modo, las pruebas de primitivos de personalidad como Humancode y Humanity Protocol proporcionan fuertes garantías de identidad humana contra los actores adversarios en estos sistemas.
2. Mercados laborales y primitivas de verificación fuera de la cadena: los agentes deben saber que las tareas que asignan se completan de acuerdo con sus objetivos. Las herramientas que permiten a los sistemas de agentes crear recompensas, verificar su finalización y distribuir los pagos son mesas de apuestas para cualquier actividad económica significativa mediada por los agentes.
3. Sistemas de formación de capital y de gobierno: los agentes necesitan capital para resolver problemas y controles y equilibrios para garantizar que actúen de acuerdo con sus funciones objetivas definidas. Las nuevas estructuras para obtener capital para los sistemas de agentes y las nuevas formas de propiedad y control que combinan la participación financiera y la contribución laboral van a ser un rico espacio de diseño en los próximos meses.

Pretendemos invertir activamente en estas capas críticas de la pila de coordinación entre humanos y agentes. Si estás construyendo en este espacio, ponte en contacto con nosotros.