Puis-je faire tourner Phi-4 Mini 3.8B ?

Phi-4 Mini 3.8B est le petit modèle de chat de Microsoft, celui qu'on choisit quand on veut quelque chose de vraiment léger mais capable de tenir une conversation. En quantification 4-bit, il pèse environ 2.3 GB, et descend autour de 1.6 GB en 2-bit : il tient donc presque partout. Un GPU de 6 GB a de la marge, un Mac M1 d'entrée de gamme le fait tourner sans broncher, et un vieux portable s'en sort sur CPU. La licence MIT est la partie facile : aucune condition à lire, aucune restriction commerciale, vous pouvez l'intégrer librement dans un produit.

À l'usage quotidien, il est rapide. Sur une RTX 3060, comptez environ 133 tok/s, une puce M-series Max tourne autour de 151 tok/s, et une 4090 le pousse au-delà de 370 tok/s, soit bien plus vite que votre vitesse de lecture. Les 128K de contexte sont le chiffre vedette, mais à manier avec prudence : si vous le remplissez, la mémoire totale grimpe à environ 14.3 GB, bien au-delà des 6 GB dont ce modèle a besoin au repos. Sur un petit GPU, gardez le contexte de travail à quelques milliers de tokens et tout restera confortable. Même un CPU sur DDR5 atteint environ 22 tok/s sur des prompts courts.

C'est sur la profondeur qu'il montre sa taille. Pour le raisonnement et les instructions à plusieurs étapes, Qwen 3 4B garde généralement l'avantage malgré un nombre de paramètres comparable, et si vous avez besoin d'une vraie marge de raisonnement, Phi-4 14B est le palier supérieur évident. La grande qualité de Phi-4 Mini, c'est l'efficacité : il joue au-dessus de ses 3.8B pour le chat simple et le résumé tout en restant assez petit pour tourner presque partout, sous licence MIT et sans restriction. Si vous cherchez un assistant local minuscule qui se charge vite et ne vous gêne pas, c'est un excellent choix par défaut.