Tether lansează platforma Bitnet AI pentru smartphone-uri, eliminând necesitatea utilizării procesoarelor grafice Nvidia

Cadrul Tether AI reduce utilizarea VRAM cu peste 70% și extinde edge computing

Marți, Tether a prezentat un cadru de reglaj fin LoRA multiplataformă pentru modelele Bitnet ale Microsoft, introducând ceea ce a descris ca fiind primul sistem capabil să antreneze și să ruleze modele lingvistice mari de 1 bit pe dispozitive de consum, inclusiv smartphone-uri și laptopuri.

Lansarea face parte din stiva QVAC Fabric a Tether și este concepută pentru a reduce cerințele mari de calcul și memorie asociate de obicei cu dezvoltarea inteligenței artificiale, care a fost în mare parte limitată la furnizorii de cloud și la hardware-ul Nvidia de ultimă generație.
Prin suportul pentru hardware eterogen — inclusiv cipuri de la Intel, AMD și Apple, precum și GPU-uri mobile — cadrul permite dezvoltatorilor să regleze fin modelele la nivel local fără a se baza pe o infrastructură centralizată.

În practică, asta înseamnă că sarcinile de lucru AI, odată rezervate centrelor de date, pot rula acum pe dispozitive care încap într-un rucsac sau într-un buzunar, o schimbare care ar putea reduce costurile și lărgi accesul pentru dezvoltatori din Statele Unite și din întreaga lume.
Tether a declarat că inginerii săi au demonstrat cu succes optimizarea Bitnet pe GPU-uri mobile, inclusiv cipuri Adreno, Mali și Apple Bionic, marcând o premieră pentru arhitectura emergentă a modelelor de 1 bit.

Testele de performanță publicate de companie arată că un model cu 125 de milioane de parametri poate fi optimizat în aproximativ 10 minute pe un dispozitiv Samsung S25, în timp ce un model cu 1 miliard de parametri finalizează aceeași sarcină în aproximativ 1 oră și 18 minute pe același hardware.

Pe dispozitivele Apple, compania a raportat rezultate similare, un model cu 1 miliard de parametri fiind optimizat în aproximativ 1 oră și 45 de minute pe un iPhone 16, iar rulările experimentale ajungând la modele de până la 13 miliarde de parametri pe dispozitiv.

Framework-ul a arătat, de asemenea, câștiguri măsurabile în viteza de inferență, GPU-urile mobile oferind o performanță de două până la 11 ori mai mare decât CPU-urile, conform testelor interne ale Tether.

Eficiența memoriei este un alt argument de vânzare cheie, Bitnet-1B utilizând cu până la 77,8% mai puțin VRAM decât modelele comparabile de 16 biți și cu peste 65% mai puțin decât alte arhitecturi utilizate pe scară largă, permițând rularea modelelor mai mari pe hardware limitat.

Tether a declarat că sistemul permite, de asemenea, reglarea fină LoRA pe hardware non-Nvidia pentru prima dată în această categorie, o mișcare care ar putea reduce dependența de cipuri specializate și servicii cloud, păstrând în același timp datele sensibile stocate local pe dispozitivele utilizatorilor.
Compania a adăugat că această abordare ar putea face învățarea federată mai practică, permițând antrenarea modelelor pe dispozitive distribuite fără centralizarea datelor, un domeniu de interes crescând în dezvoltarea IA axată pe confidențialitate.

Ripple se extinde agresiv în Brazilia, urmărind să domine piața criptomonedelor în sectorul instituțional

Ripple accelerează o expansiune pe scară largă în sistemul financiar brazilian, poziționându-se în centrul infrastructurii instituționale din domeniul criptomonedelor ca read more.

Citește acum

Ripple se extinde agresiv în Brazilia, urmărind să domine piața criptomonedelor în sectorul instituțional

Ripple accelerează o expansiune pe scară largă în sistemul financiar brazilian, poziționându-se în centrul infrastructurii instituționale din domeniul criptomonedelor ca read more.

Citește acum

Ripple se extinde agresiv în Brazilia, urmărind să domine piața criptomonedelor în sectorul instituțional

Citește acum

Ripple accelerează o expansiune pe scară largă în sistemul financiar brazilian, poziționându-se în centrul infrastructurii instituționale din domeniul criptomonedelor ca read more.

„Prin facilitarea antrenării semnificative a modelelor mari pe hardware de consum, inclusiv smartphone-uri, QVAC de la Tether demonstrează că IA avansată poate fi descentralizată, incluzivă și poate oferi putere tuturor”, a declarat Paolo Ardoino, CEO-ul Tether, într-un comunicat, adăugând că compania intenționează să investească în continuare în infrastructura de IA pe dispozitiv.

Comunicatul tehnic, care include teste de performanță și detalii de implementare, a fost publicat prin intermediul Hugging Face, semnalând un efort de a ajunge direct la dezvoltatori, în loc să limiteze accesul la tehnologia din spatele sistemelor proprietare.

Întrebări frecvente 🔎

• Care este noul cadru de IA al Tether?
  QVAC Fabric de la Tether introduce un sistem multiplataformă pentru antrenarea și rularea modelelor de IA Bitnet pe dispozitive de consum, precum telefoane și laptopuri.
• Smartphone-urile pot într-adevăr antrena modele de IA?
  Da, testele de performanță ale Tether arată că modelele cu miliarde de parametri pot fi ajustate pe dispozitive precum Samsung S25 și iPhone 16 în câteva ore.
• De ce este acest lucru important pentru dezvoltatorii din SUA?
  Reduce dependența de infrastructura cloud costisitoare și de GPU-urile specializate, scăzând costurile și sporind accesul la dezvoltarea IA.
• Ce diferențiază Bitnet de alte modele?
  BitNet utilizează o arhitectură de 1 bit care reduce semnificativ utilizarea memoriei și îmbunătățește eficiența în comparație cu modelele tradiționale de 16 biți.