01 Ce qui s’est passé
L'équipe PyTorch de Hugging Face a détaillé les améliorations du backend MPS de PyTorch 2.15 : tenseurs FP8, décodage MoE 5–6,5× plus rapide et réduction de la mémoire VAE vidéo de 270 à 8 GiB.
02 Les points essentiels
- PyTorch 2.15 ajoute les tenseurs float8_e4m3fn sur MPS : un octet par valeur, moitié du stockage FP16/BF16, avec F.scaled_mm supportant les échelles tensorwise et rowwise.
- Les modèles MoE décodent 5–6,5× plus vite : sur M3 Ultra avec torch.compile, Qwen3.6-35B-A3B passe de 9,4 à 61,3 tokens/s, LFM2.5-8B-A1B de 23,6 à 123,6.
- Le décodage VAE tuilé de Wan2.2 réduit la mémoire pilote de ~270 GiB à ~8 GiB ; l’encodeur Qwen-Image-2.1 est corrigé (PSNR 10,06→29,95 dB).
- F.linear utilise des noyaux GEMV, softmax ~8× plus rapide, factorisation LU complex64, flux MPS publics et plus d’opérations natives sur MPS.
03 Pourquoi c’est important
Cette mise à jour supprime les goulets d’étranglement pour l’IA locale sur Mac. Les noyaux Metal dédiés rendent les grands modèles de langage et vidéo plus pratiques.
04 Pour qui c’est utile
Développeurs en IA.
Source originale