Ce qu’il faut retenir :
- Quatre Mac Studio M5 Ultra reliés en Thunderbolt 5 forment une machine d’inférence unique de 4,8 To/s.
- Le gain vient de la latence, ramenée d’environ 1 milliseconde à moins de 10 microsecondes.
- Les mesures de performance indépendantes ne sont pas encore publiées.
Quatre Mac Studio M5 Ultra reliés par Thunderbolt 5 peuvent désormais fonctionner comme une seule machine d’inférence, avec une bande passante mémoire cumulée d’environ 4,8 téraoctets par seconde. EXO Labs a annoncé sur X le résultat d’une année de collaboration discrète avec Apple sur le RDMA à faible latence, une technique d’accès direct à la mémoire d’une autre machine sans passer par le système d’exploitation.
Pourquoi la latence comptait plus que la bande passante
L’idée reçue voudrait qu’il faille un débit réseau considérable pour répartir un modèle sur plusieurs machines. C’est vrai pour l’entraînement, beaucoup moins pour l’inférence telle que ces grappes la pratiquent.
Le calcul mérite d’être posé. Le parallélisme de tenseurs découpe le modèle en parts égales entre les appareils. Chaque couche exige deux opérations de synchronisation d’environ 10 kilooctets par appareil. Sur un modèle comme GLM-5.3 et ses 78 couches, cela représente 156 synchronisations par token, pour un volume total dérisoire d’environ 1,56 mégaoctet.
Le problème n’était donc pas le volume mais l’aller-retour. Avec la pile réseau classique de macOS, chaque synchronisation ajoutait environ 1 milliseconde, soit 156 millisecondes par token, ce qui plafonnait le débit à 6,41 tokens par seconde, inutilisable pour un usage interactif. Le RDMA ramène cette latence sous les 10 microsecondes, réduisant la surcharge à environ 1,56 milliseconde par token.
C’est à cette condition que l’agrégation de mémoire devient réelle : les quatre machines se comportent alors comme un unique accélérateur doté de plus d’un téraoctet de mémoire partagée. Le principe est identique à celui qui justifie l’existence de NVLink chez Nvidia, où l’enjeu n’est pas de déplacer des gigaoctets mais de gagner des microsecondes sur chaque synchronisation.
Le Thunderbolt 5 plafonne à 120 gigabits par seconde en unidirectionnel et 80 en bidirectionnel, des chiffres modestes face aux interconnexions de centre de données, sans que cela pénalise ce type de charge.
Combien ça coûte
L’addition dressée par Alex Cheema, d’EXO Labs, se lit ainsi : quatre Mac Studio M5 Ultra de 256 gigaoctets à 10 799 dollars pièce, soit 43 196 dollars, plus environ 600 dollars de câbles, pour un total proche de 43 800 dollars.
La comparaison avec une station de travail équipée de quatre cartes RTX 6000 Ada tourne à l’avantage relatif du Mac sur le prix, avec environ 46 000 dollars pour 384 gigaoctets de mémoire vidéo, mais une puissance de calcul brute bien supérieure côté Nvidia.
L’écart se creuse sur la consommation. Quatre Mac Studio tirent 1,92 kilowatt en pointe, contre plus de 2,4 kilowatts pour les seules cartes graphiques d’une configuration comparable, refroidissement non compris. Sur un fonctionnement continu, la différence pèse.
Le contexte de pénurie de mémoire
Un facteur extérieur rend cette arithmétique plus favorable qu’elle ne l’aurait été il y a un an.
Les prix de la mémoire vive s’envolent. Les analystes d’IDC décrivent la réallocation des capacités de production vers la mémoire à haute bande passante comme une crise sans équivalent, sans amélioration attendue avant 2028. Samsung, SK Hynix et Micron ont réorienté leurs lignes vers ce type de puces destinées aux accélérateurs d’IA, dont la fabrication consomme environ trois fois plus de surface de plaquette que la mémoire classique.
Dans ce contexte, la mémoire unifiée d’Apple, facturée environ 25 dollars le gigaoctet en option, cesse de paraître déraisonnable.
La limite des sept machines
L’architecture bute sur une contrainte physique. Le Mac Studio dispose de six ports Thunderbolt 5, et EXO relie pour l’instant chaque machine à toutes les autres. Cette topologie exige N-1 ports par machine, ce qui plafonne la grappe à sept unités, avec 21 câbles.
L’équipe travaille sur des topologies en anneau pour dépasser cette limite, sans que les latences à sauts multiples aient encore été mesurées. Apple s’en tient de son côté à une documentation couvrant officiellement jusqu’à cinq systèmes, et une communication centrée sur la configuration à quatre nœuds.
Une incompatibilité mérite d’être signalée aux acheteurs : le Mac mini M6 utilise le Thunderbolt 4 et ne peut donc pas participer à ces grappes. Seuls le Mac mini M5 Pro, à 1 699 dollars, et les Mac Studio y sont éligibles.
Les mesures indépendantes manquent toujours
C’est la réserve principale à opposer à cette annonce. Les relevés de performance complets ne sont pas publics, EXO Labs indiquant qu’ils seront publiés sur local.ai dès que possible.
Apple avance de son côté une multiplication par trois de la vitesse d’inférence pour une grappe de quatre machines par rapport à une unité seule, un chiffre prudent au regard des promesses de mise à l’échelle quasi linéaire.
Le précédent invite à la patience. Les mesures publiées par Jeff Geerling lors du lancement du RDMA à l’époque des puces M3 montraient un gain de 30 à 35 % seulement sur des configurations à deux nœuds. EXO Labs attribue ce résultat aux conditions du lancement et fait valoir des optimisations de noyau intervenues depuis.
“Nous n’allons pas gonfler les choses”, répond le mainteneur du projet aux utilisateurs sceptiques, en invitant ceux qui hésitent à attendre la publication des mesures avant de décider. La franchise est notable, dans un secteur où l’usage veut plutôt qu’on annonce d’abord et qu’on mesure ensuite.
Ce que cette configuration débloque
Trois usages concrets ressortent.
Le premier concerne les modèles ouverts de très grande taille. Kimi K3 réclame plus de 500 gigaoctets rien que pour sa version compressée en un bit, ce qu’aucune machine grand public ne peut absorber seule. Un téraoctet de mémoire partagée laisse la place au modèle et à son cache d’attention.
Le deuxième relève de la souveraineté des données. Faire tourner ces modèles chez soi supprime la question de savoir ce que devient une requête envoyée à un fournisseur extérieur, un argument qui compte pour les cabinets juridiques, les équipes médicales et les organisations soumises à des obligations de confidentialité.
Le troisième tient à la maturité logicielle. Apple a intégré le RDMA comme fonction native de macOS dans la version Tahoe 26.2, et EXO revendique la prise en charge de topologies arbitraires ainsi que la constitution d’une grappe de MacBook en moins d’une minute.
Et maintenant ?
Le conseil raisonnable consiste à attendre des mesures indépendantes avant tout achat. Une mise à jour logicielle était attendue le 26 août, et les résultats promis sur local.ai constitueront le premier élément vérifiable.
Deux échéances suivront. Les topologies en anneau, qui détermineront si la limite de sept machines saute. Et la génération suivante de puces Apple, attendue à la mi-2027, qui dira si le constructeur inscrit cette architecture dans la durée ou s’il s’agit d’une parenthèse ouverte par la pénurie de mémoire.
Cet article vous a plu ? Recevez les prochains par email
Rejoignez +40 000 abonnés. L'essentiel du marché crypto dans votre boîte mail, tous les 2 jours.
