Tether Melancarkan Rangka Kerja AI Bitnet untuk Telefon Pintar, Mengurangkan Keperluan terhadap GPU Nvidia

Rangka Kerja AI Tether Mengurangkan Penggunaan VRAM Lebih 70%, Memperluas Pengkomputeran Edge

Pada hari Selasa, Tether mendedahkan rangka kerja penalaan halus LoRA merentas platform untuk model Bitnet Microsoft, memperkenalkan apa yang disifatkannya sebagai sistem pertama yang mampu melatih dan menjalankan model bahasa besar 1-bit merentas peranti pengguna, termasuk telefon pintar dan komputer riba.

Keluaran ini merupakan sebahagian daripada timbunan QVAC Fabric Tether dan direka untuk mengurangkan keperluan pengiraan dan memori yang berat yang lazimnya dikaitkan dengan pembangunan kecerdasan buatan, yang sebahagian besarnya terhad kepada penyedia awan dan perkakasan Nvidia kelas tinggi.

Dengan menyokong perkakasan heterogen—including cip daripada Intel, AMD, dan Apple, serta GPU mudah alih—rangka kerja ini membolehkan pembangun menala halus model secara setempat tanpa bergantung pada infrastruktur berpusat.

Dalam amalan, itu bermakna beban kerja AI yang sebelum ini hanya dikhaskan untuk pusat data kini boleh berjalan pada peranti yang duduk dalam beg galas atau poket, satu perubahan yang boleh menurunkan kos dan meluaskan akses kepada pembangun di seluruh Amerika Syarikat dan di peringkat global.

Tether berkata juruteranya berjaya menunjukkan penalaan halus Bitnet pada GPU mudah alih, termasuk cip Adreno, Mali dan Apple Bionic, menandakan yang pertama bagi seni bina model 1-bit yang sedang muncul.

Penanda aras prestasi yang diterbitkan oleh syarikat menunjukkan model 125 juta parameter boleh ditala halus dalam kira-kira 10 minit pada peranti Samsung S25, manakala model 1 bilion parameter menyelesaikan the tugasan yang sama dalam kira-kira 1 jam dan 18 minit pada perkakasan yang sama.

Pada peranti Apple, syarikat melaporkan keputusan yang serupa, dengan model 1 bilion parameter ditala halus dalam kira-kira 1 jam dan 45 minit pada iPhone 16, dan larian eksperimen menolak model sehingga 13 bilion parameter pada peranti.

Rangka kerja itu juga menunjukkan peningkatan yang boleh diukur dalam kelajuan inferens, dengan GPU mudah alih memberikan antara dua hingga 11 kali prestasi CPU, menurut penanda aras dalaman Tether.

Kecekapan memori merupakan satu lagi titik jualan utama, dengan Bitnet-1B menggunakan sehingga 77.8% kurang VRAM berbanding model 16-bit yang setara dan lebih 65% kurang berbanding seni bina lain yang digunakan secara meluas, membolehkan model yang lebih besar berjalan pada perkakasan terhad.

Tether berkata sistem itu juga membolehkan penalaan halus LoRA pada perkakasan bukan Nvidia buat kali pertama dalam kategori ini, satu langkah yang boleh mengurangkan pergantungan pada cip khusus dan perkhidmatan awan sambil memastikan data sensitif disimpan secara setempat pada peranti pengguna.

Syarikat menambah bahawa pendekatan itu boleh menjadikan pembelajaran bersekutu lebih praktikal dengan membolehkan model dilatih merentas peranti yang diedarkan tanpa memusatkan data, satu bidang yang semakin mendapat perhatian dalam pembangunan AI yang memfokuskan privasi.

Ripple Mengembangkan Secara Agresif di Brazil, Mensasarkan Dominasi Kripto Institusi

Ripple mempercepat perluasan besar-besaran merentasi sistem kewangan Brazil, meletakkan dirinya di pusat infrastruktur kripto institusi kerana read more.

Baca sekarang

Ripple Mengembangkan Secara Agresif di Brazil, Mensasarkan Dominasi Kripto Institusi

Ripple mempercepat perluasan besar-besaran merentasi sistem kewangan Brazil, meletakkan dirinya di pusat infrastruktur kripto institusi kerana read more.

Baca sekarang

Ripple Mengembangkan Secara Agresif di Brazil, Mensasarkan Dominasi Kripto Institusi

Baca sekarang

Ripple mempercepat perluasan besar-besaran merentasi sistem kewangan Brazil, meletakkan dirinya di pusat infrastruktur kripto institusi kerana read more.

“Dengan membolehkan latihan model besar yang bermakna pada perkakasan pengguna, termasuk telefon pintar, QVAC Tether membuktikan bahawa AI canggih boleh dinyahpusatkan, inklusif, dan memperkasa semua orang,” kata CEO Tether Paolo Ardoino dalam satu kenyataan, sambil menambah bahawa syarikat merancang pelaburan berterusan dalam infrastruktur AI pada peranti.

Keluaran teknikal, termasuk penanda aras dan butiran pelaksanaan, telah diterbitkan melalui Hugging Face, menandakan usaha untuk mencapai pembangun secara langsung daripada mengawal akses teknologi itu di sebalik sistem proprietari.

FAQ 🔎

• Apakah rangka kerja AI baharu Tether?
  QVAC Fabric Tether memperkenalkan sistem merentas platform untuk melatih dan menjalankan model AI Bitnet pada peranti pengguna seperti telefon dan komputer riba.
• Bolehkah telefon pintar benar-benar melatih model AI?
  Ya, penanda aras Tether menunjukkan model berbilion parameter boleh ditala halus pada peranti seperti Samsung S25 dan iPhone 16 dalam masa beberapa jam.
• Mengapa ini penting untuk pembangun di A.S.?
  Ia mengurangkan pergantungan kepada infrastruktur awan yang mahal dan GPU khusus, menurunkan kos serta meningkatkan akses kepada pembangunan AI.
• Apa yang membezakan Bitnet daripada model lain?
  BitNet menggunakan seni bina 1-bit yang mengurangkan penggunaan memori dengan ketara dan meningkatkan kecekapan berbanding model 16-bit tradisional.