Tether Data dévoile QVAC Fabric, un cadre d'inférence et de réglage fin LLM pour les modèles d'IA modernes

Société du Département des Services Financiers Tether Tether Data, entreprise axée sur la promotion de la liberté, de la transparence et de l'innovation par la technologie, a annoncé le lancement de QVAC Fabric LLM, un environnement d'exécution et de réglage fin complet pour les grands modèles de langage (LLM). Ce nouveau système permet aux utilisateurs d'exécuter, d'entraîner et de personnaliser des modèles de langage de grande taille directement sur du matériel standard, notamment les GPU grand public, les ordinateurs portables et même les smartphones, s'affranchissant ainsi de la dépendance antérieure aux serveurs cloud haut de gamme ou aux configurations NVIDIA spécialisées.

Tissu QVAC LLM redefiCette solution offre des performances élevées en matière d'inférence et d'ajustement des modèles linéaires à longue portée (LLM), auparavant réservées aux organisations disposant d'infrastructures coûteuses. Elle représente le premier système unifié, portable et hautement évolutif capable d'exécuter l'inférence LLM complète, de s'adapter à LoRa et d'ajuster les instructions sur les systèmes d'exploitation mobiles (iOS et Android), ainsi que sur tous les environnements courants pour ordinateurs portables, ordinateurs de bureau et serveurs (Windows, macOS, Linux). Les développeurs et les organisations peuvent ainsi créer, déployer, exécuter et personnaliser l'IA de manière indépendante, sans dépendre du cloud, sans être prisonniers d'un fournisseur unique et sans risque de fuite de données sensibles hors de l'appareil.

L'une des innovations majeures de cette version réside dans la possibilité d'optimiser les modèles sur des GPU mobiles, tels que Qualcomm Adreno et ARM Mali. Il s'agit du premier framework prêt pour la production permettant l'entraînement moderne de modèles de langage (LLM) sur du matériel de type smartphone. Cette avancée facilite le développement d'une IA personnalisée capable d'apprendre directement des utilisateurs sur leurs appareils, tout en préservant la confidentialité, en fonctionnant hors ligne et en prenant en charge une nouvelle génération d'applications d'IA embarquées et résilientes.

QVAC Fabric LLM étend également le llamaL'écosystème .cpp est enrichi par l'ajout d'une prise en charge du réglage fin pour les modèles contemporains tels que LLamaLes modèles 3, Qwen3 et Gemma3, qui n'étaient pas pris en charge auparavant, peuvent désormais être optimisés grâce à un flux de travail simple et cohérent sur toutes les plateformes matérielles.

En permettant l'entraînement sur une large gamme de GPU, notamment AMD, Intel, NVIDIA, Apple Silicon et les puces mobiles, QVAC Fabric LLM remet en question l'idée longtemps admise que le développement avancé de l'IA exige du matériel spécialisé d'un seul fournisseur. Les GPU grand public sont désormais adaptés aux tâches d'IA complexes et les appareils mobiles deviennent de véritables plateformes d'entraînement, élargissant ainsi le champ des possibles pour le développement de l'IA.

Pour les entreprises, cette plateforme offre des avantages stratégiques. Les organisations peuvent optimiser leurs modèles d'IA en interne sur du matériel sécurisé, évitant ainsi d'exposer des données sensibles à des fournisseurs de cloud externes. Cette approche favorise la confidentialité, la conformité réglementaire et la maîtrise des coûts, tout en permettant le déploiement de modèles d'IA adaptés aux besoins internes. QVAC Fabric LLM déplace l'optimisation des clusters GPU centralisés vers l'écosystème plus large des appareils déjà gérés par les entreprises, rendant l'IA avancée plus accessible et plus sûre.

Tether Data rend QVAC Fabric LLM open source, permettant une personnalisation décentralisée de l'IA

Tether Data a mis QVAC Fabric LLM à disposition en tant que logiciel libre sous licence Apache 2.0, accompagné de binaires multiplateformes et d'adaptateurs prêts à l'emploi sur Hugging Face. Ce framework permet aux développeurs d'affiner leurs modèles en quelques commandes seulement, réduisant ainsi les obstacles à la personnalisation de l'IA qui étaient auparavant difficiles à surmonter.

QVAC Fabric LLM représente une avancée concrète vers une IA décentralisée et gérée par l'utilisateur. Alors que la majeure partie du secteur continue de privilégier les solutions cloud, Tether Les données permettent une personnalisation avancée directement sur les équipements périphériques locaux. Cette approche garantit la continuité opérationnelle dans les régions à forte latence réseau, comme les marchés émergents, tout en offrant une plateforme d'IA respectueuse de la vie privée, résiliente et évolutive, capable de fonctionner indépendamment de toute infrastructure centralisée.