Bittensorin koulutuksen merkkipaalu herättää Chamath Palihapitiyan ja Nvidian toimitusjohtajan Jensen Huangin huomion

Avoimen lähdekoodin tekoälyn suosio kasvaa Nvidian toimitusjohtajan tuella

Chamath Palihapitiya nosti esiin Bittensorin Covenant-72B:n All-In Podcast -jaksossa ja kuvaili sitä konkreettisena esimerkkinä hajautetusta tekoälystä (AI), joka on edennyt teoriaa pidemmälle. Bittensor toimii hajautettuna, lohkoketjupohjaisena verkostona, joka luo vertaisverkkomarkkinapaikan, jossa koneoppimismalleja ja tekoälylaskentaa vaihdetaan ja kannustetaan.

Palihapitiya kuvaili hanketta selkein sanoin: laajamittainen kielimalli (LLM), joka on koulutettu ilman keskitettyä infrastruktuuria, vaan riippumattomien avustajien verkoston voimin. ”He onnistuivat kouluttamaan 4 miljardin parametrin LLaMA-mallin, täysin hajautetusti, joukolla ihmisiä, jotka antoivat ylimääräistä laskentatehoa”, hän sanoi ja kutsui sitä ”aika hulluksi tekniseksi saavutukseksi”.

Vertailu johti tuttuun analogiaan. ”On satunnaisia ihmisiä, ja jokainen saa pienen osuuden”, Palihapitiya lisäsi viitaten varhaiseen hajautettuun laskentaprojektiin, joka hyödynsi käyttämättömiä laitteita ympäri maailmaa.

Huang ei hylännyt ajatusta. Sen sijaan hän nojautui laajempaan AI-markkinoiden näkemykseen ja viittasi siihen, että hajautetut ja omistusoikeudelliset lähestymistavat eivät sulje toisiaan pois. ”Nämä kaksi asiaa eivät ole joko A tai B; ne ovat sekä A että B”, Huang sanoi. ”Siitä ei ole epäilystäkään.”

Tämä kaksijakoinen visio heijastaa kasvavaa kuilua – ja päällekkäisyyttä – tekoälyn sisällä. Toisella puolella ovat suljetut, erittäin hiotut järjestelmät, kuten ChatGPT, Claude ja Gemini. Toisella puolella ovat avoimet ja hajautetut mallit, joiden avulla kehittäjät ja organisaatiot voivat räätälöidä järjestelmiä erityistarpeisiin.

Huang teki selväksi, että hän pitää molempia suuntia välttämättöminä. ”Mallit ovat teknologiaa, eivät tuotteita”, hän sanoi ja totesi, että suurin osa käyttäjistä tulee jatkossakin luottamaan viimeisteltyihin, yleiskäyttöisiin järjestelmiin sen sijaan, että rakentaisivat omia alusta alkaen.

Samalla hän viittasi toimialoihin, joilla räätälöinti ei ole valinnainen. ”On olemassa toimialoja, joilla niiden alan asiantuntemus… on tallennettava tavalla, jota ne voivat hallita”, Huang selitti ja lisäsi, että ”se on mahdollista vain avoimilla malleilla”.

Tämä lausunto osuu suoraan Bittensorin ytimeen. Subnet 3 (Templar) -verkoston kautta kehitetty Covenant-72B edustaa yhtä suurimmista hajautetuista koulutussarjoista tähän mennessä, koordinoiden yli 70 osallistujaa tavallisten internetyhteyksien kautta ilman keskusviranomaista.

Teknisesti malli rikkoo rajoja. Se on rakennettu 72 miljardista parametrista ja koulutettu noin 1,1 biljoonalla tokenilla, ja se hyödyntää innovaatioita, kuten pakattuja viestintäprotokollia ja hajautettua datan rinnakkaisuutta, jotta koulutus on mahdollista perinteisten datakeskusten ulkopuolella.

Suorituskykymittarit viittaavat siihen, että kyseessä ei ole pelkkä kokeilu. Vertailutulokset asettavat sen kilpailemaan vakiintuneiden keskitettyjen mallien kanssa, mikä auttaa selittämään, miksi projekti on herättänyt huomiota myös kryptovaluuttoihin perehtyneen yleisön ulkopuolella.

Myös markkinat ovat huomanneet tämän. Ilmoituksen jälkeen projektin TAO-tokenin arvo on noussut 24 % siitä lähtien, kun Palihapitiyan ja Huangin video levisi sosiaalisessa mediassa.

Huangin kommentit viittaavat kuitenkin siihen, että todellinen tarina ei ole mullistus, vaan näiden kahden rinnakkaiselo. Omistusoikeudelliset tekoälyjärjestelmät pysyvät todennäköisesti hallitsevina yleiskäyttäjille, kun taas avoimet ja hajautetut mallit vakiinnuttavat asemansa erikoistuneissa, kustannusherkissä tai suvereniteettiin perustuvissa sovelluksissa.

Startup-yrityksille Nvidian toimitusjohtaja esitti käytännönläheisen toimintamallin: aloita avoimesti ja lisää sitten omien järjestelmien etuja. ”Jokainen startup, johon nyt sijoitamme, on aluksi avoimen lähdekoodin malli ja siirtyy sitten omaan malliin”, hän sanoi.

Toisin sanoen tekoälyn tulevaisuus ei välttämättä kuulu yhdelle arkkitehtuurille tai filosofialle. Se voi kuulua niille, jotka osaavat navigoida molemmissa – ja tietävät, milloin kumpaakin kannattaa käyttää.

UKK 🔎

• Mikä on Bittensorin Covenant-72B?
  72 miljardin parametrin kielimalli, joka on koulutettu hajautetun avustajaverkoston kautta ilman keskitettyä infrastruktuuria.
• Mitä Jensen Huang sanoi hajautetusta tekoälystä?
  Hän sanoi, että avoimet ja suljetut tekoälymallit tulevat toimimaan rinnakkain, ja kuvaili niiden suhdetta "A:ksi ja B:ksi" eikä valinnaksi niiden välillä.
• Miksi tämä kehitys on tärkeää?
  Se osoittaa, että laajamittaisia tekoälymalleja voidaan kouluttaa perinteisten datakeskusten ulkopuolella, mikä haastaa oletukset infrastruktuuritarpeista.
• Miten tämä vaikuttaa tekoälyalaan?
  Se tukee hybridistä tulevaisuutta, jossa keskitetyt alustat ja hajautetut mallit toimivat eri rooleissa eri toimialoilla.