Tether lance Bitnet, un framework d'IA pour smartphones, rendant ainsi superflue l'utilisation des GPU Nvidia

Le framework Tether AI réduit l'utilisation de la VRAM de plus de 70 % et étend l'edge computing

Mardi, Tether a dévoilé un cadre de réglage fin LoRA multiplateforme pour les modèles Bitnet de Microsoft, présentant ce qu’il décrit comme le premier système capable de former et d’exécuter des modèles linguistiques de grande envergure à 1 bit sur des appareils grand public, notamment les smartphones et les ordinateurs portables.

Cette version fait partie de la pile QVAC Fabric de Tether et est conçue pour réduire les exigences élevées en matière de calcul et de mémoire généralement associées au développement de l'intelligence artificielle, qui a jusqu'à présent été largement confiné aux fournisseurs de cloud et au matériel haut de gamme de Nvidia. En prenant en charge du matériel hétérogène — notamment des puces d'Intel, d'AMD et d'Apple, ainsi que des GPU mobiles —, le framework permet aux développeurs d'ajuster finement les modèles localement sans dépendre d'une infrastructure centralisée.

Concrètement, cela signifie que les charges de travail d’IA autrefois réservées aux centres de données peuvent désormais s’exécuter sur des appareils qui tiennent dans un sac à dos ou une poche, une évolution susceptible de réduire les coûts et d’élargir l’accès pour les développeurs aux États-Unis et dans le monde entier. Tether a déclaré que ses ingénieurs avaient démontré avec succès le réglage fin de Bitnet sur des GPU mobiles, notamment les puces Adreno, Mali et Apple Bionic, marquant ainsi une première pour l’architecture émergente des modèles à 1 bit.

Les benchmarks de performance publiés par l'entreprise montrent qu'un modèle de 125 millions de paramètres peut être ajusté en environ 10 minutes sur un appareil Samsung S25, tandis qu'un modèle de 1 milliard de paramètres accomplit la même tâche en environ 1 heure et 18 minutes sur le même matériel.

Sur les appareils Apple, la société a rapporté des résultats similaires, avec un modèle de 1 milliard de paramètres optimisé en environ 1 heure et 45 minutes sur un iPhone 16, et des tests expérimentaux poussant les modèles jusqu'à 13 milliards de paramètres sur l'appareil. Le framework a également montré des gains mesurables en termes de vitesse d'inférence, les GPU mobiles offrant des performances entre deux et onze fois supérieures à celles des CPU, selon les benchmarks internes de Tether.

L'efficacité de la mémoire est un autre argument de vente clé, Bitnet-1B utilisant jusqu'à 77,8 % de VRAM en moins que des modèles 16 bits comparables et plus de 65 % de moins que d'autres architectures largement utilisées, ce qui permet à des modèles plus volumineux de fonctionner sur du matériel limité.

Tether a déclaré que le système permettait également, pour la première fois dans cette catégorie, le réglage fin LoRA sur du matériel non-Nvidia, une avancée susceptible de réduire la dépendance vis-à-vis des puces spécialisées et des services cloud tout en conservant les données sensibles stockées localement sur les appareils des utilisateurs. La société a ajouté que cette approche pourrait rendre l'apprentissage fédéré plus pratique en permettant de former des modèles sur des appareils distribués sans centraliser les données, un domaine qui suscite un intérêt croissant dans le développement de l'IA axée sur la confidentialité.

Ripple se développe à grands pas au Brésil et vise à s'imposer sur le marché institutionnel des cryptomonnaies

Ripple accélère son expansion à grande échelle au sein du système financier brésilien, se positionnant ainsi au cœur de l'infrastructure institutionnelle des cryptomonnaies en tant que read more.

Lire

Ripple se développe à grands pas au Brésil et vise à s'imposer sur le marché institutionnel des cryptomonnaies

Ripple accélère son expansion à grande échelle au sein du système financier brésilien, se positionnant ainsi au cœur de l'infrastructure institutionnelle des cryptomonnaies en tant que read more.

Lire

Ripple se développe à grands pas au Brésil et vise à s'imposer sur le marché institutionnel des cryptomonnaies

Lire

Ripple accélère son expansion à grande échelle au sein du système financier brésilien, se positionnant ainsi au cœur de l'infrastructure institutionnelle des cryptomonnaies en tant que read more.

« En permettant un entraînement significatif de grands modèles sur du matériel grand public, y compris les smartphones, le QVAC de Tether prouve que l'IA avancée peut être décentralisée, inclusive et source d'autonomie pour tous », a déclaré Paolo Ardoino, PDG de Tether, dans un communiqué, ajoutant que la société prévoyait de continuer à investir dans l'infrastructure d'IA embarquée.

Le communiqué technique, comprenant des benchmarks et des détails de mise en œuvre, a été publié via Hugging Face, ce qui témoigne d’une volonté de s’adresser directement aux développeurs plutôt que de confiner la technologie derrière des systèmes propriétaires.

FAQ 🔎

• Quel est le nouveau cadre d'IA de Tether ? Le QVAC Fabric de Tether introduit un système multiplateforme permettant de former et d'exécuter des modèles d'IA Bitnet sur des appareils grand public tels que les téléphones et les ordinateurs portables.
• Les smartphones peuvent-ils vraiment entraîner des modèles d'IA ? Oui, les benchmarks de Tether montrent que des modèles comportant des milliards de paramètres peuvent être affinés sur des appareils tels que le Samsung S25 et l'iPhone 16 en quelques heures.
• Pourquoi est-ce important pour les développeurs américains ? Cela réduit la dépendance vis-à-vis d'infrastructures cloud coûteuses et de GPU spécialisés, ce qui diminue les coûts et facilite l'accès au développement de l'IA.
• En quoi Bitnet se distingue-t-il des autres modèles ? BitNet utilise une architecture 1 bit qui réduit considérablement l'utilisation de la mémoire et améliore l'efficacité par rapport aux modèles 16 bits traditionnels.