Bittensori koolitusprogramm on äratanud Chamath Palihapitiya ja Nvidia tegevjuhi Jensen Huangi tähelepanu

Avatud lähtekoodiga tehisintellekti hoog kasvab tänu Nvidia tegevjuhi toetusele

Chamath Palihapitiya tõi All-In Podcasti saates esile Bittensori Covenant-72B, kujutades seda konkreetse näitena detsentraliseeritud tehisintellektist (AI), mis on astunud teooriast kaugemale. Bittensor toimib detsentraliseeritud, plokiahela-põhise võrgustikuna, mis loob peer-to-peer-turu, kus vahetatakse ja stimuleeritakse masinõppe mudeleid ja AI-arvutusi.

Palihapitiya kirjeldas seda lihtsates sõnades: suuremahuline keelemudel (LLM), mis on treenitud ilma tsentraliseeritud infrastruktuurita, vaid sõltumatute kaastöötajate võrgustiku abil. „Nad suutsid treenida 4 miljardi parameetriga LLaMA-mudeli, täielikult detsentraliseeritult, kus hulk inimesi andis oma arvutusvõimsust,“ ütles ta, nimetades seda „üsna hullumeelseks tehniliseks saavutuseks“.

Võrdlus viis tuttava analoogiani. „On juhuslikud inimesed ja igaüks saab väikese osa,“ lisas Palihapitiya, viidates varasele hajutatud arvutusvõimsuse projektile, mis kasutas ära ülemaailmselt kasutamata riistvara.

Huang ei lükanud seda ideed tagasi. Selle asemel lähenes ta AI-turule laiemalt, viidates sellele, et detsentraliseeritud ja proprietaarse lähenemise vahel ei ole vastandust. „Need kaks asja ei ole A või B; need on A ja B,“ ütles Huang. „Selles pole kahtlustki.“

See kaheharuline visioon peegeldab kasvavat lõhet – ja kattuvust – tehisintellekti sees. Ühel pool on suletud, väga viimistletud süsteemid nagu ChatGPT, Claude ja Gemini. Teisel pool on avatud ja detsentraliseeritud mudelid, mis võimaldavad arendajatel ja organisatsioonidel süsteeme konkreetsetele vajadustele kohandada.

Huang tegi selgeks, et peab mõlemat suunda oluliseks. „Mudelid on tehnoloogia, mitte toode,“ ütles ta, märkides, et enamik kasutajaid jätkab pigem viimistletud, üldotstarbeliste süsteemide kasutamist, kui oma süsteemide nullist üles ehitamist.

Samal ajal viitas ta tööstusharudele, kus kohandamine ei ole valikuline. „On palju tööstusharusid, kus nende valdkonnaekspertiis… tuleb talletada viisil, mida nad saavad kontrollida,“ selgitas Huang, lisades, et „seda on võimalik saavutada ainult avatud mudelite abil.“

See avaldus sobib ideaalselt Bittensori tegevusvaldkonnaga. Subnet 3 (Templar) kaudu arendatud Covenant-72B on üks seni suurimaid detsentraliseeritud koolituskäike, koordineerides üle 70 osaleja tavaliste internetiühenduste kaudu ilma keskasutuseta.

Tehniliselt nihutab mudel piire. See on ehitatud 72 miljardi parameetriga ja treenitud ligikaudu 1,1 triljoni tokeniga ning kasutab ära uuendusi, nagu kompresseeritud kommunikatsiooniprotokollid ja hajutatud andmete paralleelsus, et muuta treenimine võimalikuks väljaspool traditsioonilisi andmekeskusi.

Jõudlusnäitajad viitavad sellele, et tegemist ei ole pelgalt eksperimendiga. Võrdlustestide tulemused asetavad selle konkureerima väljakujunenud tsentraliseeritud mudelitega, mis aitab selgitada, miks projekt on äratanud tähelepanu ka väljaspool krüptovaluuta-huviliste ringkondi.

Ka turg on seda märganud. Pärast teadaannet on projekti token TAO tõusnud 24%, alates hetkest, kui Palihapitiya ja Huangi video sotsiaalmeedias ringi käima hakkas.

Siiski viitavad Huangi kommentaarid sellele, et tegelik lugu ei ole murrang, vaid kahe süsteemi kooseksisteerimine. Patenteeritud AI-süsteemid jäävad tõenäoliselt domineerivaks tavakasutajate jaoks, samas kui avatud ja detsentraliseeritud mudelid leiavad oma rolli spetsialiseeritud, kulutundlikes või suveräänsusele suunatud rakendustes.

Startup-ettevõtete jaoks esitas Nvidia tegevjuht pragmaatilise tegevuskava: alusta avatult, seejärel lisa omandisüsteemide eelised. „Iga startup, millesse me praegu investeerime, on esmalt avatud lähtekoodiga ja liigub seejärel omandisüsteemi mudeli poole,“ ütles ta.

Teisisõnu, tehisintellekti tulevik ei pruugi kuuluda ühele arhitektuurile või filosoofiale. See võib kuuluda neile, kes oskavad mõlemat kasutada – ja teavad, millal kumba kasutada.

KKK 🔎

• Mis on Bittensori Covenant-72B?
  72 miljardi parameetriga keelemudel, mis on treenitud detsentraliseeritud kaastöötajate võrgustiku kaudu ilma tsentraliseeritud infrastruktuurita.
• Mida ütles Jensen Huang detsentraliseeritud tehisintellekti kohta?
  Ta ütles, et avatud ja proprietaarseid tehisintellekti mudeleid hakkab eksisteerima kõrvuti, kirjeldades nende suhet kui „A ja B“, mitte valikut nende vahel.
• Miks on see areng oluline?
  See näitab, et suuremahulisi tehisintellekti mudeleid on võimalik treenida väljaspool traditsioonilisi andmekeskusi, seades kahtluse alla eeldused infrastruktuuri vajaduste kohta.
• Kuidas see mõjutab tehisintellekti tööstust?
  See toetab hübriidset tulevikku, kus tsentraliseeritud platvormid ja detsentraliseeritud mudelid täidavad eri tööstusharudes erinevaid rolle.