La convergencia de criptomonedas e IA: cuatro intersecciones clave

Nota del editor: La mayor parte de esta publicación de blog, incluida la mayor parte del título, fue escrita por ChatGPT. El texto que Kyle escribió está en cursiva. Puede ver el diálogo con ChatGPT que dio lugar a esta publicación de blog aquí. También puede escuchar esta publicación de blog en la voz de Kyle. Kyle no leyó esto en voz alta y grabó el audio; en realidad cargó muestras de audio a un servicio llamado play.ht y luego proporcionó a play.ht el texto de esta publicación de blog, y sintetizó su voz utilizando IA.

Los mundos de las criptomonedas y la inteligencia artificial (IA) han estado evolucionando en paralelo, y cada dominio ha superado los límites de la tecnología y la innovación. A medida que continuamos avanzando en ambos campos, cada vez es más claro que sus futuros están inevitablemente vinculados. En esta publicación, exploraremos cuatro intersecciones importantes en la encrucijada de criptomonedas e IA.

El modelo "AirBnB para tarjetas gráficas"

El aumento de las cargas de trabajo de IA y aprendizaje automático (Machine Learning) ha creado una demanda masiva de tarjetas gráficas de alto rendimiento, como la Nvidia A100. En respuesta, ha surgido un nuevo mercado, similar a un "AirBnB para tarjetas gráficas". Esto permite a los individuos y las organizaciones alquilar sus recursos de GPU no utilizados para satisfacer la demanda de investigadores y desarrolladores de IA.

Este es un momento verdaderamente único en la historia de los mercados. El suministro de GPU ya era escaso antes del lanzamiento de ChatGPT. Desde entonces, la demanda probablemente ha crecido al menos 10 veces, y posiblemente 100 veces. Además, sabemos que los modelos mejoran con entrenar el tamaño logarítmicamente; lo que significa que la demanda para procesar GPU está creciendo exponencialmente para obtener ganancias lineales en calidad de modelos. Ha habido pocos momentos en el tiempo en los que la demanda de un producto básico superó ampliamente a la oferta utilizable, a pesar de que la oferta total es mucho mayor que la demanda; si todas las GPU del planeta fueran utilizables para la inferencia y entrenamiento de la IA hoy, ¡no habría escasez, sino más bien un excedente!

Sin embargo, hay algunos desafíos técnicos importantes a considerar al explorar el concepto de un "AirBnB para tarjetas gráficas":

• No todas las tarjetas gráficas pueden soportar todas las cargas de trabajo: Las tarjetas gráficas vienen en varias formas, tamaños y especificaciones. Como tales, algunas GPU pueden no ser capaces de manejar ciertas tareas de IA. Para que este modelo sea exitoso, debe haber una manera de combinar los recursos de GPU correctos con las cargas de trabajo de IA adecuadas. A medida que el mercado madura, esperamos ver una mayor especialización y optimización de tarjetas gráficas para diferentes tareas de IA.
• Ajustar los procesos de entrenamiento para ajustar una mayor latencia: La mayoría de los modelos de base de hoy en día se entrenan en grupos de GPU conectados a través de conexiones de latencia extremadamente bajas. En un entorno descentralizado, la latencia aumenta en varios órdenes de magnitud, ya que es probable que las GPU se distribuyan en múltiples ubicaciones y se conecten a través de Internet pública. Para superar este desafío, existe la oportunidad de desarrollar nuevos procesos de entrenamiento que supongan conexiones de mayor latencia. Al repensar la forma en que entrenamos modelos de IA, podemos hacer un mejor uso de grupos descentralizados de GPU más grandes.
• El problema de verificación: es imposible saber si un equipo no confiable ha ejecutado un código específico. Por lo tanto, puede ser difícil confiar en la salida de una computadora no confiable. Sin embargo, este problema puede mitigarse a través de sistemas de reputación junto con apuestas criptoeconómicas y, en algunos casos, con nuevos tipos de modelos que permiten una verificación rápida.

Hay bastantes equipos trabajando en esta área, tanto en entrenamiento como en inferencia. Multicoin Capital invierte en Render Network, que originalmente se centró en renderización 3D, y desde entonces ha abierto su red de GPU para dar soporte a la inferencia de IA también.

Además de Render Network, hay un puñado de otros trabajando en este sector: Akash, BitTensor, Gensyn, Prodia, Together, y otros que todavía están en sigilo.

Aprendizaje de refuerzo incentivado por tokens a partir de comentarios humanos (RLHF)

Es casi seguro que el incentivo de tokens no funcionará para todos los usos de aprendizaje por refuerzo a partir de comentarios humanos (RLHF). La pregunta es, ¿qué marcos podemos usar para pensar acerca de cuándo el incentivo de tokens tiene sentido para RLHF, frente a cuándo se deben usar pagos en efectivo (por ejemplo, USDC)?

Es probable que el incentivo de tokens mejore RLHF a medida que lo siguiente se vuelva más real:

• El modelo se vuelve más estrecho y vertical (en lugar de general y horizontal, por ejemplo, ChatGPT). Si alguien proporciona RLHF como su trabajo principal y, por lo tanto, está produciendo la mayor parte de sus ingresos al proporcionar RLHF, es probable que quieran dinero en efectivo para pagar el alquiler y comprar alimentos. A medida que se traslada de las consultas generales hacia áreas de dominio más específicas, los desarrolladores de modelos necesitarán el compromiso de trabajadores más altamente capacitados, que tienen más probabilidades de estar investidos en el éxito a largo plazo de la oportunidad de negocio general.
• Cuanto mayor sea el ingreso de los humanos que proporcionan RLHF fuera del trabajo de RLHF en sí. Una persona solo puede permitirse aceptar tokens bloqueados/ilíquidos como compensación en lugar de efectivo si tienen suficientes ingresos o ahorros de otros esfuerzos para justificar el riesgo de invertir tiempo significativo en un modelo RLHF específico de dominio. Para maximizar la probabilidad de éxito, los desarrolladores de modelos no deben solo dar tokens desbloqueados a los trabajadores que proporcionan RLHF específico de dominio. En cambio, los tokens deben otorgarse durante algún período de tiempo para incentivar la toma de decisiones a largo plazo.

Algunas industrias donde el modelo RLHF incentivado por tokens podría ser aplicable incluyen:

• Medicina: las personas deben poder participar con LLM tanto para el diagnóstico ligero de primera respuesta, como para la medicina preventiva y centrada en la longevidad a largo plazo.
• Leyes: los propietarios de negocios y los individuos deben poder utilizar LLM para navegar de manera más efectiva y eficiente las complejidades de varios sistemas legales heterogéneos.
• Ingeniería y Arquitectura: Mejorar herramientas de diseño o modelos de simulación.
• Finanzas y economía: Mejorar los modelos predictivos, los resultados de riesgo y los sistemas de comercio algorítmicos.
• Investigación científica: Refinar modelos de IA para simular experimentos, predecir interacciones moleculares y analizar conjuntos de datos complejos.
• Educación y capacitación: Contribuir a las plataformas de aprendizaje impulsadas por IA para mejorar la calidad y la efectividad del contenido educativo.
• Ciencias ambientales y sostenibilidad: Optimizar modelos de IA para predecir tendencias ambientales, asignación de recursos y promover prácticas sostenibles.

Existe una vertical en la que el RLHF incentivado por tokens ya está en producción: mapas. Hivemapper es gratificante no solo para los conductores, sino también para los editores de mapas, que están invirtiendo su tiempo en editar y curar datos de mapeo. Puede probar esto por sí mismo utilizando Herramientas de entrenamiento de IA de mapas.

Aprendizaje automático de conocimiento cero (zkML)

Las cadenas de bloques no saben lo que está sucediendo en el mundo real. Sin embargo, puede ser muy beneficioso para ellas saber de eventos que ocurren fuera de la cadena para que puedan mover valor programáticamente en función del estado IRL.

Los oráculos resuelven parte de este problema. Pero los oráculos no son suficientes. No bastará con simplemente transmitir datos IRL a la cadena. Muchos de esos datos tendrán que ser computados antes de ir a la cadena. Por ejemplo, consideremos un agregador de rendimientos que necesita mover depósitos entre varios grupos para obtener más rendimiento. Para hacerlo de una manera minimizada en confianza, el agregador necesita calcular los rendimientos y riesgos actuales de todos los grupos disponibles. Esto se convierte rápidamente en un problema de optimización, que es adecuado para ML. Sin embargo, es demasiado caro calcular ML en cadena, por lo que esta es una oportunidad para zkML.

Equipos como Modulus Labs están desarrollando esta área actualmente. Esperamos que muchos más equipos construyan en este espacio utilizando ZKVM de propósito general como Risc Zero y Lurk.

Autenticidad en la era de las falsificaciones profundas

A medida que las falsificaciones profundas siguen volviéndose más sofisticadas, manteniendo la autenticidad y la confianza, los medios digitales son primordiales. Una solución implica aprovechar la criptografía de clave pública, lo que permite a los creadores apostar su reputación en la autenticidad de su contenido al firmarlo con su clave pública.

Una clave pública por sí sola no es suficiente para resolver el problema de autenticidad. Debe haber un registro público que asigne claves públicas a identidades del mundo real, que permita la verificación y la creación de confianza. Al vincular claves públicas a identidades verificadas, es posible crear un sistema de retroalimentación y penalización si alguien es sorprendido haciendo un mal uso de su clave, como firmar una imagen o video de falsificación profunda.

Para que este sistema sea efectivo, la integración de la firma de clave pública con la verificación de la identidad en el mundo real será crucial. La tecnología de cadena de bloques, que sustenta muchos sistemas de criptomonedas, podría desempeñar un papel vital en la creación de un registro de identificación descentralizado y a prueba de manipulaciones. Este registro asignaría claves públicas a identificaciones del mundo real, lo que facilitaría establecer confianza y responsabilizar a los malos actores.

Habrá al menos dos configuraciones de esto: hardware integrado y software controlado por el usuario.

• Hardware integrado: Esperamos que los teléfonos inteligentes y otros dispositivos pronto incorporen características de firma nativas basadas en hardware para imágenes, videos y otros medios.
• Solana Labs recientemente lanzó el teléfono Saga, que funciona con el [Solana Mobile Stack (SMS)](https://solana.com/news/solana-mobile-stack-reve-"Solana Mobile Stack"). En los próximos meses, espero que SMS se actualice de modo que cada foto se firme utilizando SMS SDK seed vault, lo que demuestra que la foto no fue generada por una IA.
• Software controlado por el usuario: las personas utilizarán herramientas de diseño como Photoshop, Octane y generadores de imágenes como Stable Diffusion para producir arte. *Esperamos que estos proveedores de software *integren mecanismos de criptografía de clave pública para permitir a los creadores demostrar autenticidad al tiempo que reconocen las herramientas utilizadas en el proceso de producción.

Conclusión

En conclusión, la convergencia de tecnologías de criptomonedas e inteligencia artificial presenta una gran cantidad de oportunidades para abordar desafíos apremiantes y desbloquear soluciones innovadoras en múltiples industrias. Al explorar las intersecciones de estos campos, podemos encontrar nuevas formas de optimizar la asignación de recursos en la capacitación de IA, aprovechar los incentivos de tokens para el aprendizaje de refuerzo específico de dominio a partir de comentarios humanos y mantener la autenticidad en los medios digitales frente a falsificaciones profundas.

El modelo "AirBnB para tarjetas gráficas" ofrece el potencial de descentralizar y democratizar el acceso a GPU de alto rendimiento, lo que permite que más personas y organizaciones contribuyan a la investigación y el desarrollo de IA. El RLHF incentivado por tokens se puede aplicar en varias industrias, desde ingeniería y finanzas hasta educación y ciencias ambientales, mejorando los modelos de IA al aprovechar el conocimiento de los expertos en dominios. ZKML permitirá a las cadenas actualizar el estado financiero en cadena en función de cambios complejos en el mundo real. Finalmente, al integrar la criptografía de clave pública con la verificación de identificación en el mundo real y la tecnología de cadena de bloques, podemos crear un sistema sólido para combatir los desafíos que plantean las falsificaciones profundas y mantener la confianza en los medios digitales.

A medida que continuamos descubriendo las sinergias entre criptomonedas e IA, sin duda descubriremos aún más oportunidades para impulsar la innovación, crear valor y abordar algunos de los problemas más apremiantes que enfrenta la sociedad hoy en día. Abrazar las intersecciones entre estos dos dominios nos ayudará a superar los límites de la tecnología y dar forma a un futuro más conectado, eficiente y auténtico.

Si está construyendo en la intersección de criptomonedas e IA, ya sea que esté construyendo estos casos de uso u otros, comuníquese con nosotros por correo electrónico (kyle@multicoin.capital), Telegram, Twitter, o Warpcast. ¡Nos encantaría conversar!