Kamień milowy w szkoleniu Bittensor przyciąga uwagę Chamatha Palihapitiya i prezesa Nvidii, Jensena Huanga

Poparcie prezesa Nvidii wzmacnia dynamikę rozwoju sztucznej inteligencji typu open source

Chamath Palihapitiya zwrócił uwagę na Covenant-72B firmy Bittensor podczas odcinka podcastu All-In, przedstawiając go jako namacalny przykład zdecentralizowanej sztucznej inteligencji (AI) wykraczającej poza teorię. Bittensor działa jako zdecentralizowana sieć oparta na blockchainie, która tworzy rynek peer-to-peer, na którym wymienia się modele uczenia maszynowego i obliczenia AI oraz zapewnia zachęty.

Palihapitiya opisał to przedsięwzięcie w prostych słowach: model językowy na dużą skalę (LLM) wyszkolony bez scentralizowanej infrastruktury, zasilany zamiast tego przez sieć niezależnych współpracowników. „Udało im się wyszkolić model LLaMA o 4 miliardach parametrów, całkowicie rozproszony, przy udziale wielu osób dostarczających nadwyżki mocy obliczeniowej” – powiedział, nazywając to „całkiem szalonym osiągnięciem technicznym”.

Porównanie to nawiązywało do znanej analogii. „Są przypadkowi ludzie, a każda osoba otrzymuje niewielki udział” – dodał Palihapitiya, nawiązując do wczesnego projektu obliczeń rozproszonych, który wykorzystywał niewykorzystany sprzęt na całym świecie.

Huang nie odrzucił tego pomysłu. Zamiast tego skupił się na szerszym ujęciu rynku AI, sugerując, że podejścia zdecentralizowane i zastrzeżone nie wykluczają się wzajemnie. „Te dwie rzeczy to nie A albo B; to A i B” – powiedział Huang. „Nie ma co do tego wątpliwości”.

Ta dwutorowa wizja odzwierciedla rosnącą przepaść – i nakładanie się – w obrębie sztucznej inteligencji. Z jednej strony znajdują się zamknięte, dopracowane systemy, takie jak ChatGPT, Claude i Gemini. Z drugiej strony są modele otwarte i zdecentralizowane, które pozwalają programistom i organizacjom dostosowywać systemy do konkretnych potrzeb.

Huang jasno dał do zrozumienia, że uważa oba kierunki za niezbędne. „Modele to technologia, a nie produkt” – powiedział, zauważając, że większość użytkowników będzie nadal polegać na dopracowanych systemach ogólnego przeznaczenia, zamiast budować własne od podstaw.

Jednocześnie wskazał na branże, w których dostosowanie do indywidualnych potrzeb nie jest opcjonalne. „Istnieje wiele branż, w których wiedza specjalistyczna… musi być uchwycona w sposób, który pozwala im na kontrolę” – wyjaśnił Huang, dodając, że „można to osiągnąć wyłącznie dzięki modelom otwartym”.

To stwierdzenie idealnie wpisuje się w profil działalności Bittensor. Covenant-72B, opracowany w ramach Subnet 3 (Templar), stanowi jeden z największych dotychczasowych zdecentralizowanych procesów szkoleniowych, koordynujący ponad 70 współpracowników za pośrednictwem standardowych połączeń internetowych bez centralnego organu zarządzającego.

Pod względem technicznym model ten przesuwa granice. Zbudowany z 72 miliardów parametrów i wyszkolony na około 1,1 biliona tokenów, wykorzystuje innowacje, takie jak skompresowane protokoły komunikacyjne i równoległość danych rozproszonych, aby umożliwić szkolenie poza tradycyjnymi centrami danych.

Wskaźniki wydajności sugerują, że nie jest to jedynie eksperyment. Wyniki testów porównawczych stawiają go w szranki z uznanymi modelami scentralizowanymi, co pomaga wyjaśnić, dlaczego projekt przyciągnął uwagę nie tylko odbiorców związanych z kryptowalutami.

Rynek również to zauważył. Po ogłoszeniu projektu jego token TAO wzrósł o 24% od momentu, gdy filmik z Palihapitiyą i Huangiem zaczął krążyć w mediach społecznościowych.

Jednak komentarze Huanga sugerują, że prawdziwą historią nie jest przełom, ale współistnienie obu rozwiązań. Zastrzeżone systemy AI prawdopodobnie pozostaną dominujące dla zwykłych użytkowników, podczas gdy otwarte i zdecentralizowane modele znajdą swoje miejsce w specjalistycznych, wrażliwych na koszty lub opartych na suwerenności aplikacjach.

Dla start-upów dyrektor generalny Nvidii nakreślił pragmatyczny plan działania: zacznij od otwartości, a następnie dodaj zalety rozwiązań zastrzeżonych. „Każdy start-up, w który obecnie inwestujemy, najpierw opiera się na otwartym oprogramowaniu, a następnie przechodzi na model zastrzeżony” – powiedział.

Innymi słowy, przyszłość sztucznej inteligencji może nie należeć do jednej architektury lub filozofii. Może należeć do tych, którzy potrafią poruszać się po obu – i wiedzą, kiedy z której skorzystać.

FAQ 🔎

• Czym jest Covenant-72B firmy Bittensor?
  Model językowy o 72 miliardach parametrów, wytrenowany przez zdecentralizowaną sieć współpracowników bez scentralizowanej infrastruktury.
• Co powiedział Jensen Huang o zdecentralizowanej sztucznej inteligencji?
  Stwierdził, że modele AI typu open source i zastrzeżone będą współistnieć, opisując tę relację jako „A i B”, a nie wybór między nimi.
• Dlaczego ten rozwój jest ważny?
  Pokazuje on, że modele AI na dużą skalę mogą być trenowane poza tradycyjnymi centrami danych, podważając założenia dotyczące potrzeb infrastrukturalnych.
• Jak to wpływa na branżę AI?
  Wspiera to hybrydową przyszłość, w której scentralizowane platformy i zdecentralizowane modele pełnią różne role w różnych branżach.