비텐서(Bittensor)의 훈련 성과가 차마스 팔리하피티야와 엔비디아(Nvidia)의 젠슨 황 CEO의 주목을 받고 있다

엔비디아 CEO의 지지로 오픈소스 AI 열기 고조

차마스 팔리하피티야는 '올인(All-In)' 팟캐스트 에피소드에서 비텐서(Bittensor)의 '코버넌트-72B(Covenant-72B)'를 집중 조명하며, 이를 이론을 넘어선 분산형 인공지능(AI)의 구체적인 사례로 제시했다. 비텐서는 기계 학습 모델과 AI 컴퓨팅 자원을 교환하고 이에 대한 보상을 제공하는 P2P(Peer-to-Peer) 마켓플레이스를 구축하는, 분산형 블록체인 기반 네트워크로 운영된다.

팔리하피티야는 이 프로젝트를 쉽게 설명하며, 중앙 집중식 인프라 없이 독립적인 기여자 네트워크를 통해 구동되는 대규모 언어 모델(LLM)이라고 말했다. 그는 “그들은 수많은 사람들이 남는 컴퓨팅 자원을 기여함으로써, 완전히 분산된 방식으로 40억 파라미터 규모의 LLaMA 모델을 훈련시키는 데 성공했다”며 이를 “상당히 놀라운 기술적 성과”라고 칭했다.

이 비교는 익숙한 비유로 이어졌다. 팔리하피티야는 전 세계의 유휴 하드웨어를 활용했던 초기 분산 컴퓨팅 프로젝트를 언급하며 “무작위로 선정된 사람들이 각자 작은 몫을 맡는 방식”이라고 덧붙였다.

황은 이 아이디어를 일축하지 않았다. 대신 그는 AI 시장의 더 넓은 관점을 제시하며, 탈중앙화 접근 방식과 독점적 접근 방식이 서로 배타적이지 않다고 제안했다. “이 두 가지는 A 아니면 B가 아니라, A와 B 모두입니다,”라고 황은 말했다. “그건 의심의 여지가 없습니다.”

이러한 이중 트랙 비전은 AI 내부에서 커지고 있는 격차와 중첩을 반영한다. 한쪽에는 ChatGPT, Claude, Gemini와 같이 폐쇄적이고 정교하게 다듬어진 시스템이 있다. 다른 한쪽에는 개발자와 조직이 특정 요구 사항에 맞춰 시스템을 맞춤화할 수 있도록 하는 개방형 및 탈중앙화 모델이 있다.

황은 두 가지 접근 방식 모두 필수적이라고 분명히 밝혔다. 그는 “모델은 제품이라기보다 기술입니다”라고 말하며, 대부분의 사용자는 처음부터 직접 시스템을 구축하기보다는 완성도 높은 범용 시스템에 계속 의존할 것이라고 지적했다.

동시에 그는 맞춤화가 선택 사항이 아닌 산업 분야를 언급했다. 황은 “특정 분야의 전문 지식이… 해당 산업이 통제할 수 있는 방식으로 반영되어야 하는 산업들이 많다”고 설명하며, “이는 오직 오픈 모델에서만 가능할 것”이라고 덧붙였다.

이 발언은 비텐서(Bittensor)의 핵심 역량과 정확히 부합한다. 서브넷 3(템플러)를 통해 개발된 코버넌트-72B(Covenant-72B)는 중앙 관리 기관 없이 표준 인터넷 연결을 통해 70명 이상의 기여자를 조율한, 현재까지 진행된 가장 대규모의 분산형 훈련 사례 중 하나를 대표한다.

기술적으로 이 모델은 한계를 뛰어넘는다. 720억 개의 파라미터로 구축되고 약 1조 1천억 개의 토큰으로 훈련된 이 모델은 압축 통신 프로토콜 및 분산 데이터 병렬 처리와 같은 혁신 기술을 활용하여 기존 데이터 센터 밖에서도 훈련이 가능하도록 했다.

성능 지표는 이것이 단순한 실험이 아님을 시사한다. 벤치마크 결과, 이 모델은 기존 중앙 집중형 모델들과 어깨를 나란히 할 수 있는 수준이며, 이러한 점은 왜 이 프로젝트가 암호화폐 업계 내부의 관심층을 넘어 주목을 받게 되었는지를 설명해 준다.

시장도 이를 주목했다. 발표 이후, 팔리하피티야와 황의 영상이 소셜 미디어를 통해 확산되면서 프로젝트의 토큰인 TAO는 24% 상승했다.

그럼에도 황의 발언은 진정한 핵심이 파괴적 혁신이 아니라 두 모델의 공존에 있음을 시사한다. 일반 사용자들에게는 독점적 AI 시스템이 여전히 주류를 이룰 것이며, 개방형 및 탈중앙화 모델은 전문 분야나 비용 민감성, 주권 중심 애플리케이션에서 역할을 찾아나갈 것으로 보인다.

스타트업에 대해 엔비디아 CEO는 실용적인 전략을 제시했다. 먼저 오픈 소스로 시작하고, 그 위에 독점적인 장점을 더하는 것이다. 그는 “현재 우리가 투자하는 모든 스타트업은 오픈 소스로 시작하여 이후 독점 모델로 전환하고 있다”고 말했다.

다시 말해, AI의 미래는 단일 아키텍처나 철학에 국한되지 않을 수 있습니다. 두 가지를 모두 활용할 줄 알고, 각각을 언제 사용해야 할지 아는 이들에게 그 미래가 열릴 것입니다.

FAQ 🔎

• Bittensor의 Covenant-72B란 무엇인가요? 중앙 집중식 인프라 없이 기여자들의 분산형 네트워크를 통해 훈련된 720억 파라미터 규모의 언어 모델입니다.
• 젠슨 황은 분산형 AI에 대해 무엇을 말했나요? 그는 오픈 소스와 독점 AI 모델이 공존할 것이라고 말하며, 이 관계를 둘 중 하나를 선택하는 것이 아니라 “A와 B”의 관계라고 묘사했습니다.
• 이 발전이 중요한 이유는 무엇인가요? 이는 대규모 AI 모델이 기존 데이터 센터 밖에서도 훈련될 수 있음을 보여줌으로써, 인프라 필요성에 대한 기존 가정에 도전장을 내민 것입니다.
• 이것이 AI 산업에 어떤 영향을 미칠까요? 이는 중앙 집중식 플랫폼과 분산형 모델이 산업 전반에서 서로 다른 역할을 수행하는 하이브리드 미래를 뒷받침합니다.