Školenie spoločnosti Bittensor upútalo pozornosť Chamatha Palihapitiyu a generálneho riaditeľa spoločnosti Nvidia Jensena Huanga

Open source AI naberá na sile vďaka podpore generálneho riaditeľa spoločnosti Nvidia

Chamath Palihapitiya v jednej z epizód podcastu All-In Podcast vyzdvihol model Covenant-72B spoločnosti Bittensor a predstavil ho ako konkrétny príklad decentralizovanej umelej inteligencie (AI), ktorá prekračuje rámec teórie. Bittensor funguje ako decentralizovaná sieť založená na blockchainovej technológii, ktorá vytvára peer-to-peer trh, na ktorom sa vymieňajú a motivujú modely strojového učenia a výpočtové kapacity umelej inteligencie.

Palihapitiya opísal túto snahu jednoduchými slovami: veľkoplošný jazykový model (LLM) trénovaný bez centralizovanej infraštruktúry, poháňaný namiesto toho sieťou nezávislých prispievateľov. „Podarilo sa im vytrénovať model LLaMA s 4 miliardami parametrov, úplne distribuovaný, s množstvom ľudí prispievajúcich nadbytočným výpočtovým výkonom,“ povedal a nazval to „celkom šialeným technickým úspechom“.

Porovnanie skončilo známou analógiou. „Sú to náhodní ľudia a každý z nich dostane malý podiel,“ dodal Palihapitiya s odkazom na raný projekt distribuovaného výpočtového výkonu, ktorý využíval nevyužitý hardvér po celom svete.

Huang túto myšlienku nezavrhol. Namiesto toho sa priklonil k širšiemu rámcovaniu trhu s umelou inteligenciou a naznačil, že decentralizované a proprietárne prístupy sa navzájom nevylučujú. „Tieto dve veci nie sú A alebo B; je to A aj B,“ povedal Huang. „O tom niet pochýb.“

Táto dvojitá vízia odráža rastúce rozdelenie – a prekrývanie – v rámci umelej inteligencie. Na jednej strane sú uzavreté, vysoko vyladené systémy ako ChatGPT, Claude a Gemini. Na druhej strane sú otvorené a decentralizované modely, ktoré umožňujú vývojárom a organizáciám prispôsobiť systémy konkrétnym potrebám.

Huang jasne vyjadril, že obe cesty považuje za nevyhnutné. „Modely sú technológia, nie produkt,“ povedal a poznamenal, že väčšina používateľov sa bude naďalej spoliehať na prepracované systémy všeobecného použitia, namiesto toho, aby si budovali svoje vlastné od nuly.

Zároveň poukázal na odvetvia, kde prispôsobenie nie je voliteľné. „Existujú všetky tieto odvetvia, kde ich odborné znalosti v danej oblasti… musia byť zachytené spôsobom, ktorý môžu kontrolovať,“ vysvetlil Huang a dodal, že „to môže pochádzať len z otvorených modelov.“

Toto vyhlásenie presne zapadá do stratégie spoločnosti Bittensor. Covenant-72B, vyvinutý prostredníctvom jej Subnet 3 (Templar), predstavuje jeden z najväčších decentralizovaných tréningových cyklov k dnešnému dňu, koordinujúci viac ako 70 prispievateľov cez štandardné internetové pripojenia bez centrálnej autority.

Z technického hľadiska tento model posúva hranice. Vytvorený s 72 miliardami parametrov a trénovaný na približne 1,1 bilióna tokenov, využíva inovácie, ako sú komprimované komunikačné protokoly a distribuovaná paralelnosť dát, aby bolo trénovanie realizovateľné mimo tradičných dátových centier.

Metriky výkonu naznačujú, že nejde len o experiment. Výsledky benchmarkov ho stavajú do konkurencie so zavedenými centralizovanými modelmi, čo pomáha vysvetliť, prečo projekt upútal pozornosť aj mimo krypto-nativného publika.

Všimol si to aj trh. Po oznámení vzrástol token projektu TAO o 24 %, odkedy sa video s Palihapitiyom a Huangom rozšírilo na sociálnych médiách.

Huangove komentáre však naznačujú, že skutočným príbehom nie je narušenie, ale koexistencia oboch. Proprietárne systémy umelej inteligencie pravdepodobne zostanú dominantné pre bežných používateľov, zatiaľ čo otvorené a decentralizované modely si vybojujú úlohu v špecializovaných, nákladovo citlivých alebo suverenitou riadených aplikáciách.

Pre startupy načrtol generálny riaditeľ spoločnosti Nvidia pragmatický postup: začať otvorene a potom pridávať proprietárne výhody. „Každý startup, do ktorého teraz investujeme, je najskôr open source a potom prechádza na proprietárny model,“ povedal.

Inými slovami, budúcnosť umelej inteligencie nemusí patriť jednej architektúre alebo filozofii. Môže patriť tým, ktorí vedia pracovať s oboma – a vedia, kedy ktorú z nich použiť.

FAQ 🔎

• Čo je Covenant-72B od spoločnosti Bittensor?
  Jazykový model s 72 miliardami parametrov, vytrénovaný prostredníctvom decentralizovanej siete prispievateľov bez centralizovanej infraštruktúry.
• Čo povedal Jensen Huang o decentralizovanej umelej inteligencii?
  Povedal, že otvorené a proprietárne modely umelej inteligencie budú koexistovať, pričom tento vzťah opísal ako „A a B“, nie ako voľbu medzi nimi.
• Prečo je tento vývoj dôležitý?
  Ukazuje, že veľké modely umelej inteligencie môžu byť trénované mimo tradičných dátových centier, čo spochybňuje predpoklady o potrebách infraštruktúry.
• Ako to ovplyvňuje odvetvie umelej inteligencie?
  Podporuje hybridnú budúcnosť, v ktorej centralizované platformy a decentralizované modely plnia rôzne úlohy v rôznych odvetviach.