Etapa importantă a programului de formare Bittensor atrage atenția lui Chamath Palihapitiya și a lui Jensen Huang, CEO-ul Nvidia

Impulsul IA open source crește odată cu susținerea CEO-ului Nvidia

Chamath Palihapitiya a pus în lumina reflectoarelor modelul Covenant-72B al Bittensor în cadrul unui episod al podcastului All-In, prezentându-l ca un exemplu concret de inteligență artificială (IA) descentralizată care depășește stadiul teoretic. Bittensor funcționează ca o rețea descentralizată, bazată pe blockchain, care creează o piață peer-to-peer în care modelele de învățare automată și calculul IA sunt schimbate și stimulate.

Palihapitiya a descris efortul în termeni simpli: un model lingvistic la scară largă (LLM) antrenat fără infrastructură centralizată, alimentat în schimb de o rețea de colaboratori independenți. „Au reușit să antreneze un model LLaMA de 4 miliarde de parametri, complet distribuit, cu o mulțime de oameni care contribuie cu putere de calcul excedentară”, a spus el, numind-o „o realizare tehnică destul de nebunească”.

Comparația a fost însoțită de o analogie familiară. „Există oameni aleatorii, iar fiecare persoană primește o mică parte”, a adăugat Palihapitiya, făcând referire la proiectul timpuriu de calcul distribuit care a valorificat hardware-ul inactiv la nivel mondial.

Huang nu a respins ideea. În schimb, el a adoptat o perspectivă mai largă asupra pieței IA, sugerând că abordările descentralizate și cele proprietare nu se exclud reciproc. „Aceste două lucruri nu sunt A sau B; sunt A și B”, a spus Huang. „Nu există nicio îndoială în privința asta.”

Această viziune duală reflectă o diviziune crescândă – și o suprapunere – în cadrul IA. Pe de o parte se află sisteme închise, extrem de rafinate, precum ChatGPT, Claude și Gemini. Pe de altă parte se află modele deschise și descentralizate, care permit dezvoltatorilor și organizațiilor să personalizeze sistemele pentru nevoi specifice.

Huang a precizat clar că le consideră esențiale pe ambele direcții. „Modelele sunt o tehnologie, nu un produs”, a spus el, menționând că majoritatea utilizatorilor vor continua să se bazeze pe sisteme perfecționate, de uz general, în loc să-și construiască propriile sisteme de la zero.

În același timp, el a indicat industriile în care personalizarea nu este opțională. „Există toate aceste industrii în care expertiza lor de domeniu… trebuie capturată într-un mod pe care îl pot controla”, a explicat Huang, adăugând că „asta poate veni doar de la modele deschise”.

Această afirmație se încadrează perfect în strategia Bittensor. Covenant-72B, dezvoltat prin Subnet 3 (Templar), reprezintă una dintre cele mai mari sesiuni de antrenare descentralizate de până acum, coordonând peste 70 de colaboratori prin conexiuni standard de internet, fără o autoritate centrală.

Din punct de vedere tehnic, modelul depășește limitele. Construit cu 72 de miliarde de parametri și antrenat pe aproximativ 1,1 trilioane de tokenuri, acesta utilizează inovații precum protocoale de comunicare comprimate și paralelismul datelor distribuite pentru a face antrenamentul viabil în afara centrelor de date tradiționale.

Indicatorii de performanță sugerează că nu este doar experimental. Rezultatele testelor de performanță îl plasează în competiție cu modele centralizate consacrate, un detaliu care ajută la explicarea motivului pentru care proiectul a atras atenția dincolo de publicul interesat de criptomonede.

Piața a observat, de asemenea, acest lucru. În urma anunțului, tokenul proiectului, TAO, a crescut cu 24% de când videoclipul cu Palihapitiya și Huang a făcut înconjurul rețelelor sociale.

Totuși, comentariile lui Huang sugerează că adevărata poveste nu este disruptivitatea, ci coexistența dintre cele două. Sistemele de IA proprietare vor rămâne probabil dominante pentru utilizatorii obișnuiți, în timp ce modelele deschise și descentralizate își vor croi roluri în aplicații specializate, sensibile la costuri sau axate pe suveranitate.

Pentru startup-uri, CEO-ul Nvidia a prezentat un plan pragmatic: începeți cu un model deschis, apoi adăugați avantaje proprietare. „Fiecare startup în care investim acum este mai întâi open source, iar apoi trece la modelul proprietar”, a spus el.

Cu alte cuvinte, viitorul IA s-ar putea să nu aparțină unei singure arhitecturi sau filosofii. S-ar putea să aparțină celor care pot naviga între ambele – și știu când să le folosească pe fiecare.

Întrebări frecvente 🔎

• Ce este Covenant-72B de la Bittensor?
  Un model lingvistic cu 72 de miliarde de parametri, antrenat printr-o rețea descentralizată de colaboratori, fără infrastructură centralizată.
• Ce a spus Jensen Huang despre IA descentralizată?
  El a afirmat că modelele de IA deschise și proprietare vor coexista, descriind relația dintre ele ca fiind „A și B”, nu o alegere între ele.
• De ce este importantă această evoluție?
  Aceasta demonstrează că modelele de IA la scară largă pot fi antrenate în afara centrelor de date tradiționale, punând sub semnul întrebării ipotezele privind necesitățile de infrastructură.
• Cum afectează acest lucru industria IA?
  Susține un viitor hibrid în care platformele centralizate și modelele descentralizate îndeplinesc roluri diferite în diverse industrii.