Tether, Akıllı Telefonlar İçin Bitnet AI Çerçevesini Piyasaya Sürdü; Nvidia GPU'larına Olan İhtiyacı Ortadan Kaldırdı

Tether AI Çerçevesi VRAM Kullanımını %70'in Üzerinde Azaltıyor, Uç Bilişimi Genişletiyor

Salı günü Tether, Microsoft'un Bitnet modelleri için platformlar arası bir LoRA ince ayar çerçevesini tanıttı ve akıllı telefonlar ve dizüstü bilgisayarlar dahil olmak üzere tüketici cihazlarında 1 bitlik büyük dil modellerini eğitip çalıştırabilen ilk sistem olarak tanımladığı bu çerçeveyi piyasaya sürdü.

Bu sürüm, Tether’in QVAC Fabric yığınına dahil olup, büyük ölçüde bulut sağlayıcıları ve üst düzey Nvidia donanımlarıyla sınırlı kalan yapay zeka geliştirmeyle tipik olarak ilişkili yoğun hesaplama ve bellek taleplerini azaltmak üzere tasarlanmıştır.
Intel, AMD ve Apple’ın yongalarının yanı sıra mobil GPU’ları da içeren heterojen donanımı destekleyen bu çerçeve, geliştiricilerin merkezi altyapıya bağımlı kalmadan modelleri yerel olarak ince ayarlamasına olanak tanıyor.

Uygulamada bu, bir zamanlar veri merkezlerine özgü olan AI iş yüklerinin artık bir sırt çantasında veya cepte taşınan cihazlarda çalıştırılabileceği anlamına geliyor; bu değişim, maliyetleri düşürebilir ve ABD genelinde ve küresel olarak geliştiriciler için erişimi genişletebilir.
Tether, mühendislerinin Adreno, Mali ve Apple Bionic yongaları dahil olmak üzere mobil GPU'larda Bitnet ince ayarını başarıyla sergilediğini ve bu sayede yeni ortaya çıkan 1-bit model mimarisinde bir ilke imza attığını belirtti.

Şirket tarafından yayınlanan performans karşılaştırmaları, 125 milyon parametreli bir modelin Samsung S25 cihazında yaklaşık 10 dakikada ince ayarlanabildiğini, 1 milyar parametreli bir modelin ise aynı donanımda aynı görevi yaklaşık 1 saat 18 dakikada tamamladığını gösteriyor.

Apple cihazlarında da şirket benzer sonuçlar bildirdi; iPhone 16'da 1 milyar parametreli bir model yaklaşık 1 saat 45 dakikada ince ayarlandı ve deneysel çalışmalarda cihaz üzerinde 13 milyar parametreye kadar çıkan modeller test edildi.

Tether'in iç karşılaştırmalarına göre, bu çerçeve aynı zamanda çıkarım hızında da ölçülebilir kazançlar sağladı; mobil GPU'lar, CPU'ların performansının 2 ila 11 katını sundu.

Bellek verimliliği bir başka önemli satış noktasıdır; Bitnet-1B, benzer 16 bitlik modellere göre %77,8'e kadar daha az VRAM ve diğer yaygın olarak kullanılan mimarilere göre %65'ten fazla daha az VRAM kullanarak, daha büyük modellerin sınırlı donanım üzerinde çalışmasını sağlar.

Tether, sistemin bu kategoride ilk kez Nvidia dışı donanımlarda LoRA ince ayarını mümkün kıldığını belirtti; bu hamle, hassas verilerin kullanıcı cihazlarında yerel olarak depolanmasını sağlarken, özel yongalara ve bulut hizmetlerine olan bağımlılığı azaltabilir.
Şirket, bu yaklaşımın, verileri merkezileştirmeden dağıtılmış cihazlar üzerinde modellerin eğitilmesine izin vererek federatif öğrenmeyi daha pratik hale getirebileceğini ekledi; bu, gizlilik odaklı AI geliştirmede giderek artan ilgi gören bir alandır.

Ripple Brezilya'da Hızla Büyüyor, Kurumsal Kripto Piyasasında Hakimiyet Kurmayı Hedefliyor

Ripple, Brezilya’nın finans sisteminde kapsamlı bir genişleme sürecini hızlandırarak, kurumsal kripto altyapısının merkezinde yerini alıyor read more.

Şimdi oku

Ripple Brezilya'da Hızla Büyüyor, Kurumsal Kripto Piyasasında Hakimiyet Kurmayı Hedefliyor

Ripple, Brezilya’nın finans sisteminde kapsamlı bir genişleme sürecini hızlandırarak, kurumsal kripto altyapısının merkezinde yerini alıyor read more.

Şimdi oku

Ripple Brezilya'da Hızla Büyüyor, Kurumsal Kripto Piyasasında Hakimiyet Kurmayı Hedefliyor

Şimdi oku

Ripple, Brezilya’nın finans sisteminde kapsamlı bir genişleme sürecini hızlandırarak, kurumsal kripto altyapısının merkezinde yerini alıyor read more.

Tether CEO'su Paolo Ardoino yaptığı açıklamada, "Akıllı telefonlar dahil olmak üzere tüketici donanımlarında anlamlı büyük model eğitimi sağlayarak, Tether'in QVAC'ı gelişmiş yapay zekanın merkeziyetsiz, kapsayıcı ve herkes için güçlendirici olabileceğini kanıtlıyor," dedi ve şirketin cihaz üstü yapay zeka altyapısına yatırım yapmaya devam etmeyi planladığını ekledi.

Karşılaştırma testleri ve uygulama ayrıntılarını içeren teknik rapor, Hugging Face aracılığıyla yayınlandı; bu, teknolojinin tescilli sistemlerin arkasında kalmasını sağlamak yerine geliştiricilere doğrudan ulaşma çabasını işaret ediyor.

SSS 🔎

• Tether’in yeni AI çerçevesi nedir?
  Tether’in QVAC Fabric’i, telefonlar ve dizüstü bilgisayarlar gibi tüketici cihazlarında Bitnet AI modellerini eğitmek ve çalıştırmak için bir çapraz platform sistemi sunuyor.
• Akıllı telefonlar gerçekten AI modellerini eğitebilir mi?
  Evet, Tether’in karşılaştırma testleri, milyarlarca parametreli modellerin Samsung S25 ve iPhone 16 gibi cihazlarda birkaç saat içinde ince ayar yapılabileceğini gösteriyor.
• Bu, ABD'li geliştiriciler için neden önemlidir?
  Pahalı bulut altyapısına ve özel GPU'lara olan bağımlılığı azaltarak maliyetleri düşürür ve AI geliştirmeye erişimi artırır.
• Bitnet'i diğer modellerden ayıran nedir?
  BitNet, geleneksel 16 bit modellere kıyasla bellek kullanımını önemli ölçüde azaltan ve verimliliği artıran 1 bit mimari kullanır.