GPU 인터넷의 구축

최근 Multicoin Capital은 AI 워크로드 관련 분산형 컴퓨팅 시장에서 선두를 달리고 있는 io.net에 투자를 추진했습니다. 구체적으로는 시리즈 A 라운드에 참여하여 초기 투자를 이끌었습니다. Multicoin을 비롯한 Hack VC, 6th Man Ventures, Modular Capital 등 엔젤 투자자들이 긴밀히 연합하여 io.net에 총 3천만 달러의 자금을 조달하였으며, 이러한 투자를 바탕으로 프로덕션 환경에 바로 배포할 수 있는 주문형 컴퓨팅 시장을 실현하고자 했습니다.

2023년 4월, 저는 Austin Solana Hacker House에서 io.net의 창립자 Ahmad Shadid를 처음 만났습니다. 그리고 만남 후 즉시, 누구나 머신러닝 워크로드의 컴퓨팅 리소스에 접근할 수 있게 만들겠다는 그의 집념에 빠르게 매료되고 말았습니다.

그날 이후 io.net 팀은 빠른 속도로 그 목표를 실현해 나갔습니다. 오늘날, 네트워크 상에서 분산된 GPU는 수천수만 개에 이르며, 이에 따라 AI 기업들은 컴퓨팅 작업에 5,7000시간 이상을 할애하고 있습니다. 이에 당사는 향후 10년 간 AI 르네상스를 이끌 파트너들과 협업하게 된 것을 매우 기쁘게 생각합니다.

글로벌 컴퓨팅 부족 현상

오늘날 컴퓨팅과 관련한 수요가 급격하게 증가하고 있어, 공급이 수요를 충족하지 못하는 상황에 이르렀습니다. 2023년, AI 워크로드에 대한 데이터센터의 매출이 1,000억 달러를 웃돌았음에도, 가장 보수적으로 집계한 사례에서조차 칩 공급이 부족하여 AI 수요를 모두 총족하지 못했습니다.

이러한 종류의 하드웨어를 수용할 수 있는 신규 데이터 센터를 구축하기 위해서는 이자율이 높은 시기와 자금이 부족한 시기에 거금의 선불 투자가 필요합니다. 여기서 문제의 핵심은 NVidia A100나 H100과 같은 첨단 칩을 생산하는 데 제약이 있다는 점입니다. GPU 성능이 계속 향상하는데 비해 관련 비용은 꾸준히 떨어지는 긍정적인 상황에도 불구하고, 원료 및 부품 부족을 비롯한 생산 능력의 한계처럼 물리적 제조 공정이 빠르게 이루어지지 못해서 GPU의 성장 속도를 따라가지 못하는 실정입니다.

하지만 AI의 높은 장래성으로 인해 GPU의 실질적 필요성은 날이 갈수록 커지고 있으며, 따라서 전 세계적으로 기존 예산을 넘어서는 공간 및 전력 비용과 최첨단 장비 비용이 필요하게 되었습니다. 이러한 측면에서 io.net은 현재 GPU 공급망의 한계를 극복 하고, GPU 생산 가속화를 실현하기 위해 그 기반을 닦고 있다고 볼 수 있습니다.

io.net은 앞장서서 분산형 물리적 인프라 네트워크(DePIN) 이론의 예시를 제시하고 있는데요. 바로, 토큰 인센티브를 사용하여 공급자 측에서 자원을 획득하고 유지하는 비용을 구조적으로 절감하고, 궁극적으로 최종 소비자의 비용을 절감 하는 형식입니다. DePIN은 여러 가지 종류의 광범위한 GPU 공급을 하나로 묶어 AI 개발자와 기업이 활용할 수 있는 공유 풀에 구현하고 있습니다. 그리고 오늘날의 네트워크는 현존하는 데이터 센터, 마이닝 팜(mining farm), 소비자용 장치에 있는 무수한 GPU를 기반으로 운영됩니다.

이러한 리소스를 통합하는 것은 중요하기는 하지만, 그렇다고 해서 AI 워크로드가 중앙집중화된 기업용 하드웨어에서 분산형 네트워크로 저절로 확장되는 것은 아닙니다. 암호화폐 역사상 분산형 컴퓨팅 네트워크를 구축하려는 시도가 여러 차례 있었지만, 그중 대부분은 GPU 수요를 충족하는 데 있어서 유의미한 결과를 낳지 못했습니다.

메모리와 광대역, 그리고 스토리지와 설정이 각기 다른 다양한 하드웨어를 대상으로 워크로드를 조직하고 관리하기란 예삿일이 아닙니다. 하지만 우리는 io.net 팀이 현시점의 시장에서 가장 실용적인 솔루션을 갖추고 있기 때문에, 솔루션을 통해 다양한 하드웨어를 최종 소비자가 용이하게 사용할 수 있게 지원하고, 경제적으로 생산성도 높일 수 있으리라 믿습니다.

클러스터 조성을 통한 발전 방향 제시

컴퓨팅의 역사를 돌이켜 보면, 여태껏 소프트웨어 프레임워크와 디자인 패턴은 시장에서 이용할 수 있는 하드웨어 구성을 중심으로 형성되었습니다. AI의 발전에 있어서 프레임워크와 라이브러리는 대부분 중앙집중식 하드웨어 리소스에 극도로 의존하고는 있지만, 지난 10년 동안 상당한 진전을 이룩하여 워크로드를 지리적으로 분산된 하드웨어의 개별 인스턴스에 분산해 왔습니다.

io.net은 세상에 존재하는 잔존 하드웨어를 가지고 이를 맞춤형 네트워킹 및 오케스트레이션 레이어에 배포하는 데 활용합니다. 그리고 이 하드웨어를 온라인에 가져와서 고도로 확장 가능한 GPU 인터넷을 구현할 수 있습니다. 이러한 네트워크는 머신러닝 엔지니어링과 운영 을 담당하는 부서에서 워크로드를 최소한의 조정으로 GPU 네트워크 전반에 확장할 수 있도록 Ray, Ludwig, Kubernetes 등 다양한 분산형 오픈소스 컴퓨팅 프레임워크를 활용합니다.

머신러닝 담당 부서는 주문형 클러스터를 가동하여 io.net 전반에 워크로드를 병렬 처리할 수 있으며, 라이브러리를 활용하여 워크로드를 조직하고 일정을 관리하며, 내결함성을 처리하거나 및 확장을 도모할 수 있습니다. 예를 들어, 모션 그래픽 디자이너 집단이 집에서 쓰는 GPU를 네트워크에 기부하면, io.net은 이를 바탕으로 클러스터를 구축하여 전 세계 디퓨전 스타일의 이미지 모델 개발자들이 컴퓨팅 리소스 집합에 접근할 수 있게 됩니다.

바로 미세 조정한 Stable Diffusion의 변형, 즉 BC8.ai(io.net 하드웨어에서 전적으로 훈련됨)가 이러한 예시를 잘 보여줍니다. io.net explorer는 실시간으로 추론을 나타내고, 네트워크에 기부한 사람들에게 대가를 지불합니다.

프롬프트: 지리적으로 분산된 인공지능 슈퍼컴퓨터

각 추론은 출처를 제공하기 위해 온체인으로 기록됩니다. 특정 이미지를 생성한 것에 대한 결제는 6 RTX 4090s 에서 이루어지며, 해당 클러스터는 게임을 하는 데 사용되는 소비자용 GPU입니다.

현재 네트워크 상에는 수만 개의 장치가 있는데, 이는 마이닝 팜, 활용도가 낮은 데이터 센터, Render Network 소비자 노드 전역에 걸쳐 존재하고 있습니다. io.net은 새로운 GPU 공급 방식을 제시할 뿐만 아니라, 기존 클라우드 공급자와 비교해 볼 때 비용 측면에서도 경쟁력이 있기 때문에 리소스를 더 저렴하게 제공할 수 있습니다.

io.net은 GPU 코디네이션 및 오버헤드를 이러한 프로토콜에 아웃소싱함으로써 비용을 절감했습니다. 반면, 클라우드 공급자는 인프라 비용을 인상하게 되는데, 그 이유는 인건비와 하드웨어 유지 보수 비용 및 데이터 센터 오버헤드 비용이 들어가기 때문입니다. 소비자 카드 클러스터와 마이닝 팜의 경우, 그 기회 비용이 하이퍼스케일러가 예상한 것보다 훨씬 낮기 때문에, 계속 오르고 있는 클라우드 가격 보다는 리소스의 가격을 낮게 유지하면서도 io.net 내에서 가격을 동적으로 책정함으로써 구조적으로 차익 거래가 발생하게 됩니다.

GPU 인터넷의 구축

io.net은 자산을 가볍게 유지한다는 점과 특정 고객에게 서비스를 제공할 때 그 한계비용을 실질적으로 0으로 낮춰준다는 차별화된 장점을 갖추고 있으며, 시장에서 수요와 공급 두 가지 측면 모두에서 직접적으로 관계를 맺을 수 있다는 특징이 있습니다. 이를 바탕으로 io.net은 선두주자로서 수많은 신규 기업들이 GPU에 접근할 수 있게 하여 궁국적으로 누구나 이용할 수 있는 경쟁력 있는 제품을 만들고자 합니다.

당사는 전 세계에 AI 발전을 이룩하고 이를 가속화하는 데 기여한 Ahmad와 기타 관련 부서와 협력할 수 있게되어 매우 기쁩니다. 만약 여러분 중 컴퓨팅 집약적 애플리케이션을 구축하고 계시는 분이 있다면, 여기를 클릭해서 가입한 후, 곧바로 io.net에서 관련 리소스에 엑세스해 보세요. 그리고 잔존 GPU를 가지고 계신다면 지금 바로 네트워크에 기부해 보세요. 기부 후 포인트도 가져가실 수 있습니다.

끝으로 현재 저희 팀에서는 세일즈, 엔지니어링, 디자인 포지션에 채용을 진행하고 있습니다. 관심 있으신 분은 careers@io.net으로 연락해 주시기를 바랍니다.