Bonsai 27B : Premier Modèle IA de 27 Milliards sur Smartphone

En juillet 2026, PrismML franchit une étape décisive dans l'accessibilité de l'intelligence artificielle avec Bonsai 27B, le premier modèle de 27 milliards de paramètres capable de fonctionner directement sur un smartphone. Cette prouesse technique redéfinit les possibilités d'exécution locale des modèles IA et ouvre la voie à des applications entièrement autonomes, sans dépendance au cloud.

Alors que la protection des données personnelles devient une préoccupation majeure, l'exécution locale des modèles IA représente une solution élégante : vos données ne quittent jamais votre appareil. Bonsai 27B incarne cette vision avec une architecture radicalement optimisée.

Une compression radicale sans compromis sur les capacités

Le défi technique était colossal : un modèle de 27 milliards de paramètres occupe normalement 54 Go en précision 16 bits, et même une version quantifiée en 4 bits nécessite 18 Go. Ces tailles dépassent largement la mémoire disponible sur un smartphone, où seulement 6 Go environ sont accessibles aux applications sur un iPhone de 12 Go.

PrismML propose deux variantes de Bonsai 27B, chacune adaptée à un usage spécifique :

• Bonsai 27B Ternaire : utilise des poids ternaires {-1, 0, +1} avec une mise à l'échelle FP16 par groupes, offrant 1,71 bits effectifs par poids. Avec seulement 5,9 Go, cette version privilégie la qualité et fonctionne sur un ordinateur portable standard.
• Bonsai 27B 1-bit : emploie des poids binaires {-1, +1} avec la même mise à l'échelle, réduisant l'empreinte à 1,125 bits effectifs par poids. À 3,9 Go, elle tient dans la mémoire d'un iPhone 17 Pro, permettant pour la première fois d'exécuter un modèle de cette classe sur téléphone.

Cette compression s'applique de bout en bout : embeddings, mécanismes d'attention, couches MLP et tête de modélisation du langage. Aucune échappatoire vers une précision supérieure n'est utilisée, garantissant une efficacité maximale.

Des performances préservées sur les tâches critiques

La vraie question reste : quelle intelligence survit à une compression aussi agressive ? Les résultats sur 15 benchmarks couvrant mathématiques, programmation, raisonnement, appels d'outils et vision sont remarquables.

La version ternaire conserve 95 % des performances du modèle original, tandis que la version 1-bit en retient 90 %. Plus révélateur encore : les capacités mathématiques et de programmation restent quasi intactes, et les appels d'outils structurés demeurent à quelques points du modèle pleine précision.

Cette préservation des capacités critiques place Bonsai 27B 1-bit devant les quantifications conventionnelles du même modèle de base, tout en occupant 2,5 fois moins de mémoire. PrismML introduit le concept de "densité d'intelligence" : le score de benchmark par gigaoctet. Bonsai 27B 1-bit atteint 0,53 par Go, soit plus de 10 fois le modèle original et environ 2,7 fois les meilleures alternatives quantifiées.

Multimodalité compacte : voir et comprendre

Bonsai 27B n'est pas limité au texte. Le modèle intègre une tour de vision compressée en 4 bits, permettant de traiter captures d'écran, documents et flux caméra directement sur l'appareil. Cette capacité multimodale ouvre des cas d'usage impossibles avec les modèles textuels purs.

Avec un contexte de 262 000 tokens et le support du décodage spéculatif, Bonsai 27B combine capacité de traitement étendue et accélération sans perte. Tout comme les interfaces conversationnelles modernes, l'expérience utilisateur bénéficie de cette optimisation poussée.

Vitesses d'inférence : du smartphone au GPU

Les performances d'exécution varient selon la plateforme :

• NVIDIA GeForce RTX 5090 : jusqu'à 163 tokens/s en 1-bit et 134 tokens/s en ternaire
• Apple M5 Max : jusqu'à 87 tokens/s en 1-bit et 58 tokens/s en ternaire
• iPhone 17 Pro Max : exécution fluide de la version 1-bit avec contexte d'image préchargé

Ces vitesses rendent les interactions en temps réel possibles, même sur mobile, transformant le smartphone en plateforme d'IA autonome.

Le paradigme des agents locaux : une nouvelle architecture

L'intelligence artificielle évolue des réponses uniques vers le travail soutenu : assistants manipulant des outils réels, workflows autonomes, recherches synthétisant des dizaines de documents. Cette évolution change radicalement la nature de la charge de travail.

Un agent ne fait pas un appel modèle, mais des centaines, chacun transportant du contexte, produisant des sorties structurées et alimentant l'étape suivante. Dans une architecture cloud uniquement, chaque étape est une requête distante, les coûts par token s'accumulent, et toutes les données privées transitent par le réseau.

L'exécution locale change l'équation économique

Quand un modèle capable de travail agentique tient sur l'appareil, l'agent peut vivre dans le produit. Le coût marginal d'une boucle de cent étapes devient nul, et les données de l'utilisateur ne quittent jamais la machine. Des catégories entières s'ouvrent :

1. Agents persistants sur appareil : fonctionnant en arrière-plan sans connexion cloud
2. Assistants hors ligne : opérationnels même sans connexion internet
3. Traitement de données privées : par construction, sans exposition externe

Cette approche répond directement aux préoccupations soulevées dans le déploiement de l'IA en milieu éducatif, où la confidentialité des données étudiants est primordiale.

Architectures hybrides : le meilleur des deux mondes

Bonsai 27B permet une nouvelle architecture système : les déploiements hybrides qui routent les tâches non-frontières et sensibles vers le modèle local capable, réservant les modèles cloud de pointe pour les étapes les plus difficiles. Cette approche effondre le coût par tâche des systèmes agentiques.

Contrairement aux modèles cloud dont le modèle économique évolue vers la publicité, l'exécution locale offre une transparence totale sur les coûts et la confidentialité.

Contraintes techniques du smartphone : un défi résolu

Faire tenir un modèle sur téléphone est plus strict que les chiffres de stockage ne le suggèrent. Un smartphone n'expose jamais toute sa mémoire à une application. Un iPhone de 12 Go offre environ 6 Go utilisables pour le modèle, et cette enveloppe doit être partagée avec le cache KV et les activations.

Aucune construction conventionnelle d'un modèle 27B ne s'approche de cette limite. À environ 4 Go, Bonsai 27B 1-bit est le premier à passer avec de la marge de manœuvre. Cette contrainte explique pourquoi PrismML propose deux points de fonctionnement délibérés :

• Ternaire : qualité classe ordinateur portable
• 1-bit : empreinte classe smartphone

Implications pour l'écosystème IA

Chaque version de Bonsai a déplacé la frontière intelligence-par-gigaoctet vers la gauche, et Bonsai 27B la franchit au-delà d'un seuil pratique : l'ensemble complet des capacités d'un modèle moderne avec raisonnement, compréhension multimodale, vision et utilisation fiable d'outils tient désormais sur les appareils que les gens possèdent déjà.

Densité d'intelligence : le nouvel axe de progrès

La capacité brute détermine ce qu'un modèle peut faire ; la densité détermine où il peut le faire. Chaque déplacement vers la gauche de cette frontière élargit l'ensemble des appareils, produits et environnements où l'IA avancée peut opérer.

Cette évolution transforme l'économie de chaque surface de déploiement, du smartphone au serveur mono-GPU. Tout comme les nouveaux modèles économiques émergent, la densité d'intelligence redéfinit ce qui est économiquement viable.

Méthodologie architecture-agnostique

La méthodologie derrière Bonsai est indépendante de l'architecture. Des modèles plus grands et de nouvelles architectures sont déjà en cours de développement. La frontière continuera d'avancer, élargissant progressivement l'espace des possibles.

Disponibilité et intégration technique

Bonsai 27B fonctionne nativement sur les appareils Apple (Mac, iPhone, iPad) via MLX et sur GPU NVIDIA via CUDA, grâce à des kernels low-bit personnalisés construits pour son architecture d'attention hybride.

Les poids du modèle sont disponibles sous licence Apache 2.0, permettant une utilisation commerciale libre. PrismML offre également un aperçu API développeur gratuit et limité dans le temps pour faciliter les tests.

Comparaison avec d'autres innovations matérielles

Cette miniaturisation de l'IA rappelle d'autres avancées récentes dans l'accessibilité technologique. Alors que des robots humanoïdes deviennent abordables, Bonsai 27B démocratise l'accès à l'intelligence artificielle avancée sur les appareils du quotidien.

Applications pratiques et cas d'usage

Les implications concrètes de Bonsai 27B touchent de nombreux secteurs :

Productivité personnelle

• Assistants hors ligne : rédaction, analyse de documents, génération de code sans connexion internet
• Traitement multimodal : OCR de documents, analyse de captures d'écran, extraction d'informations visuelles
• Workflows automatisés : chaînes de traitement complexes exécutées localement

Entreprise et confidentialité

Pour les organisations traitant des données sensibles, l'exécution locale élimine les risques de fuite. Les secteurs réglementés (santé, finance, juridique) peuvent bénéficier d'IA avancée sans compromettre la conformité.

Cette approche s'inscrit dans la tendance observée dans l'adoption de l'IA en marketing, où le contrôle des données devient un avantage compétitif.

Développement et recherche

Les développeurs peuvent désormais prototyper et tester des applications agentiques complexes sur leur ordinateur portable, sans dépendre de quotas API ou de connexion réseau. Cette accessibilité accélère l'innovation.

Limites et considérations

Malgré ses avancées, Bonsai 27B présente des compromis à considérer :

• Dégradation des performances : 10 % de perte en version 1-bit peut être significative pour certaines tâches critiques
• Capacités vision réduites : la compression affecte davantage les tâches visuelles (59,6 vs 72,6 sur les benchmarks vision)
• Chaleur et batterie : l'exécution intensive sur smartphone génère chaleur et consommation énergétique
• Contexte limité en pratique : bien que supportant 262K tokens, la mémoire disponible sur mobile limite le contexte utilisable

Ces limitations rappellent que, comme pour la conception des personnalités IA, les choix d'ingénierie impliquent toujours des arbitrages.

Perspective d'avenir : vers des modèles encore plus denses

Bonsai 27B marque une étape, pas une destination. PrismML annonce que des modèles plus grands et de nouvelles architectures sont en développement. La trajectoire est claire : chaque génération déplacera davantage la frontière intelligence-par-gigaoctet.

Les ordinateurs qui remplissaient autrefois des pièces entières tiennent aujourd'hui dans nos poches. L'intelligence fait le même voyage, et Bonsai 27B en constitue le plus grand pas à ce jour.

Cette évolution s'inscrit dans un mouvement plus large de démocratisation technologique, observable également dans la transformation du commerce de détail, où l'IA devient un outil accessible plutôt qu'un privilège.

Conclusion : l'intelligence devient portable

Bonsai 27B de PrismML franchit un seuil critique : pour la première fois, un modèle de 27 milliards de paramètres avec capacités de raisonnement, vision, et appels d'outils fonctionne sur un smartphone. Cette prouesse technique redéfinit ce qui est possible en IA locale.

La densité d'intelligence devient l'axe de progrès déterminant pour la prochaine phase de l'IA. Non seulement Bonsai 27B démontre qu'une compression extrême peut préserver l'essentiel des capacités, mais il ouvre des catégories entières d'applications : agents persistants, assistants hors ligne, traitement privé de données sensibles.

L'architecture hybride qu'il permet — local pour le sensible et le routinier, cloud pour les tâches de pointe — pourrait bien devenir le modèle dominant des systèmes IA de production. Les implications touchent tous les secteurs, de l'éducation à l'entreprise, du développement à la recherche.

Pour aller plus loin dans l'exploitation de l'IA pour vos projets, créez votre compte gratuit sur Roboto et découvrez comment générer du contenu texte, image et vidéo avec les dernières technologies d'intelligence artificielle.