Tether เปิดตัวเฟรมเวิร์ก Bitnet AI สำหรับสมาร์ทโฟน ลดความจำเป็นในการใช้ GPU ของ Nvidia

บนอุปกรณ์ Apple บริษัทรายงานผลลัพธ์ใกล้เคียงกัน โดยโมเดลขนาด 1 พันล้านพารามิเตอร์ถูกปรับจูนได้ภายในประมาณ 1 ชั่วโมง 45 นาทีบน iPhone 16 และการทดลองยังดันขนาดโมเดลไปได้ถึง 13 พันล้านพารามิเตอร์บนตัวเครื่อง

เฟรมเวิร์กนี้ยังแสดงให้เห็นถึงการเพิ่มขึ้นที่วัดได้ในความเร็วการทำ inference โดยจีพียูมือถือให้ประสิทธิภาพสูงกว่าซีพียูระหว่าง 2 ถึง 11 เท่า ตามเกณฑ์วัดภายในของ Tether

ประสิทธิภาพด้านหน่วยความจำเป็นอีกจุดขายสำคัญ โดย Bitnet-1B ใช้ VRAM น้อยกว่าโมเดล 16-บิตที่เทียบเคียงกันได้มากถึง 77.8% และน้อยกว่าสถาปัตยกรรมที่ใช้อย่างแพร่หลายอื่น ๆ มากกว่า 65% ทำให้โมเดลขนาดใหญ่สามารถรันบนฮาร์ดแวร์ที่มีข้อจำกัดได้

Tether ระบุว่าระบบนี้ยังทำให้การปรับจูนแบบ LoRA ทำได้บนฮาร์ดแวร์ที่ไม่ใช่ Nvidia เป็นครั้งแรกในหมวดหมู่นี้ ซึ่งเป็นก้าวที่อาจลดการพึ่งพาชิปเฉพาะทางและบริการคลาวด์ พร้อมทั้งเก็บข้อมูลอ่อนไหวไว้บนอุปกรณ์ของผู้ใช้ในพื้นที่

บริษัทยังเสริมว่าแนวทางนี้อาจทำให้การเรียนรู้แบบสหพันธ์ (federated learning) ใช้งานได้จริงมากขึ้น โดยเปิดให้โมเดล ถูกฝึกบนอุปกรณ์ที่กระจายตัวได้โดยไม่ต้องรวมศูนย์ข้อมูล ซึ่งเป็นด้านที่ได้รับความสนใจมากขึ้นในการพัฒนา AI ที่เน้นความเป็นส่วนตัว

Ripple ขยายตัวอย่างจริงจังในบราซิล มุ่งเป้าครองความเป็นผู้นำคริปโตสำหรับสถาบัน

Ripple เร่งการขยายตัวครั้งใหญ่ทั่วทั้งระบบการเงินของบราซิล พร้อมวางตำแหน่งตัวเองให้อยู่ศูนย์กลางของโครงสร้างพื้นฐานคริปโตสำหรับสถาบัน โดย read more.

อ่านตอนนี้

Ripple ขยายตัวอย่างจริงจังในบราซิล มุ่งเป้าครองความเป็นผู้นำคริปโตสำหรับสถาบัน

Ripple เร่งการขยายตัวครั้งใหญ่ทั่วทั้งระบบการเงินของบราซิล พร้อมวางตำแหน่งตัวเองให้อยู่ศูนย์กลางของโครงสร้างพื้นฐานคริปโตสำหรับสถาบัน โดย read more.

อ่านตอนนี้

Ripple ขยายตัวอย่างจริงจังในบราซิล มุ่งเป้าครองความเป็นผู้นำคริปโตสำหรับสถาบัน

อ่านตอนนี้

Ripple เร่งการขยายตัวครั้งใหญ่ทั่วทั้งระบบการเงินของบราซิล พร้อมวางตำแหน่งตัวเองให้อยู่ศูนย์กลางของโครงสร้างพื้นฐานคริปโตสำหรับสถาบัน โดย read more.

“ด้วยการทำให้การฝึกโมเดลขนาดใหญ่ที่มีความหมายเกิดขึ้นได้บนฮาร์ดแวร์ผู้บริโภค รวมถึงสมาร์ทโฟน QVAC ของ Tether กำลังพิสูจน์ว่า AI ขั้นสูงสามารถกระจายศูนย์ ครอบคลุม และเสริมพลังให้ทุกคนได้” Paolo Ardoino ซีอีโอของ Tether กล่าวในแถลงการณ์ พร้อมเสริมว่าบริษัทมีแผนลงทุนอย่างต่อเนื่องในโครงสร้างพื้นฐาน AI บนอุปกรณ์

เอกสารทางเทคนิค รวมถึงเกณฑ์วัดและรายละเอียดการนำไปใช้งาน ได้เผยแพร่ผ่าน Hugging Face ซึ่งสะท้อนความพยายามในการเข้าถึงนักพัฒนาโดยตรง มากกว่าการกั้นเทคโนโลยีไว้หลังระบบกรรมสิทธิ์

คำถามที่พบบ่อย 🔎

• เฟรมเวิร์ก AI ใหม่ของ Tether คืออะไร?
  QVAC Fabric ของ Tether นำเสนอระบบข้ามแพลตฟอร์มสำหรับการฝึกและรันโมเดล AI Bitnet บนอุปกรณ์ผู้บริโภค เช่น โทรศัพท์และแล็ปท็อป
• สมาร์ทโฟนสามารถฝึกโมเดล AI ได้จริงหรือ?
  ได้ เกณฑ์วัดของ Tether แสดงว่าโมเดลระดับพันล้านพารามิเตอร์สามารถถูกปรับจูนได้บนอุปกรณ์อย่าง Samsung S25 และ iPhone 16 ภายในไม่กี่ชั่วโมง
• ทำไมเรื่องนี้จึงสำคัญสำหรับนักพัฒนาในสหรัฐฯ?
  มันช่วยลดการพึ่งพาโครงสร้างพื้นฐานคลาวด์ราคาแพงและจีพียูเฉพาะทาง ลดต้นทุน และเพิ่มการเข้าถึงการพัฒนา AI
• อะไรทำให้ Bitnet แตกต่างจากโมเดลอื่น?
  BitNet ใช้สถาปัตยกรรมแบบ 1-บิต ซึ่งลดการใช้หน่วยความจำอย่างมีนัยสำคัญและเพิ่มประสิทธิภาพเมื่อเทียบกับโมเดล 16-บิตแบบดั้งเดิม