Tether lanza el marco de IA Bitnet para teléfonos inteligentes, lo que elimina la necesidad de utilizar GPU de Nvidia

El marco de IA de Tether reduce el uso de VRAM en más de un 70 % y amplía la computación periférica

El martes, Tether presentó un marco multiplataforma de ajuste fino LoRA para los modelos Bitnet de Microsoft, introduciendo lo que describió como el primer sistema capaz de entrenar y ejecutar modelos de lenguaje grandes de 1 bit en dispositivos de consumo, incluidos smartphones y portátiles.

El lanzamiento forma parte de la pila QVAC Fabric de Tether y está diseñado para reducir las elevadas exigencias de computación y memoria que suelen asociarse al desarrollo de la inteligencia artificial, que hasta ahora se ha limitado en gran medida a los proveedores de nube y al hardware de gama alta de Nvidia. Al ser compatible con hardware heterogéneo —incluidos chips de Intel, AMD y Apple, así como GPU móviles—, el marco permite a los desarrolladores ajustar los modelos localmente sin depender de una infraestructura centralizada.

En la práctica, esto significa que las cargas de trabajo de IA que antes estaban reservadas a los centros de datos ahora pueden ejecutarse en dispositivos que caben en una mochila o en un bolsillo, un cambio que podría reducir los costes y ampliar el acceso para los desarrolladores en todo Estados Unidos y a nivel mundial. Tether afirmó que sus ingenieros demostraron con éxito el ajuste fino de Bitnet en GPU móviles, incluidos los chips Adreno, Mali y Apple Bionic, lo que supone una primicia para la emergente arquitectura de modelos de 1 bit.

Las pruebas de rendimiento publicadas por la empresa muestran que un modelo de 125 millones de parámetros puede ajustarse en unos 10 minutos en un dispositivo Samsung S25, mientras que un modelo de 1000 millones de parámetros completa la misma tarea en aproximadamente 1 hora y 18 minutos en el mismo hardware.

En dispositivos Apple, la empresa informó de resultados similares, con un modelo de 1000 millones de parámetros ajustado en aproximadamente 1 hora y 45 minutos en un iPhone 16, y pruebas experimentales que llevaron modelos de hasta 13 000 millones de parámetros en el dispositivo. El marco también mostró mejoras cuantificables en la velocidad de inferencia, con las GPU móviles ofreciendo entre dos y once veces el rendimiento de las CPU, según las pruebas de rendimiento internas de Tether.

La eficiencia de la memoria es otro punto fuerte clave, ya que Bitnet-1B utiliza hasta un 77,8 % menos de VRAM que modelos comparables de 16 bits y más de un 65 % menos que otras arquitecturas ampliamente utilizadas, lo que permite ejecutar modelos más grandes en hardware limitado.

Tether afirmó que el sistema también permite el ajuste fino de LoRA en hardware que no sea de Nvidia por primera vez en esta categoría, una medida que podría reducir la dependencia de chips especializados y servicios en la nube, al tiempo que mantiene los datos confidenciales almacenados localmente en los dispositivos de los usuarios. La empresa añadió que este enfoque podría hacer que el aprendizaje federado resultara más práctico, al permitir que los modelos se entrenen en dispositivos distribuidos sin centralizar los datos, un área de creciente interés en el desarrollo de IA centrada en la privacidad.

«Al permitir un entrenamiento significativo de modelos grandes en hardware de consumo, incluidos los teléfonos inteligentes, el QVAC de Tether está demostrando que la IA avanzada puede ser descentralizada, inclusiva y empoderadora para todos», afirmó el director ejecutivo de Tether, Paolo Ardoino, en un comunicado, añadiendo que la empresa tiene previsto seguir invirtiendo en infraestructura de IA en el dispositivo.

El comunicado técnico, que incluye pruebas de rendimiento y detalles de implementación, se ha publicado a través de Hugging Face, lo que indica un esfuerzo por llegar directamente a los desarrolladores en lugar de limitar el acceso a la tecnología detrás de sistemas propietarios.

Preguntas frecuentes 🔎

• ¿Qué es el nuevo marco de IA de Tether? QVAC Fabric de Tether introduce un sistema multiplataforma para entrenar y ejecutar modelos de IA de Bitnet en dispositivos de consumo como teléfonos y ordenadores portátiles.
• ¿Pueden los smartphones realmente entrenar modelos de IA? Sí, las pruebas de rendimiento de Tether muestran que los modelos de miles de millones de parámetros pueden ajustarse en dispositivos como el Samsung S25 y el iPhone 16 en cuestión de horas.
• ¿Por qué es esto importante para los desarrolladores estadounidenses? Reduce la dependencia de costosas infraestructuras en la nube y GPU especializadas, lo que reduce los costes y aumenta el acceso al desarrollo de IA.
• ¿Qué diferencia a Bitnet de otros modelos? BitNet utiliza una arquitectura de 1 bit que reduce significativamente el uso de memoria y mejora la eficiencia en comparación con los modelos tradicionales de 16 bits.