Puis-je faire tourner Phi-4 Reasoning Vision 15B ?

Phi-4 Reasoning Vision 15B est le modèle à poids ouverts de Microsoft (sous licence MIT, donc librement exploitable en usage commercial), conçu pour la vision et le raisonnement plutôt que pour le chat généraliste. C'est un modèle dense de 15B paramètres, ce qui signifie que l'ensemble est chargé et sollicité à chaque token. En quantification 4-bit, il pèse environ 9.1 GB : visez une carte 12 GB comme une RTX 3060 pour le garder entièrement sur le GPU, avec au moins 16 GB de RAM système. Passez à une version 2-bit (environ 6.3 GB) si votre matériel est plus juste, sachant que la qualité en pâtit à ce niveau.

À l'usage quotidien, il reste vif sur une RTX 3060 de 12 GB, autour de 34 tokens par seconde en 4-bit, soit un confort de lecture aisé, tandis qu'une RTX 4090 de 24 GB grimpe à près de 94 tokens par seconde. Sur un Apple M-series Max, comptez environ 38 tokens par seconde. La fenêtre de contexte est de 16K, ce qui reste modeste : traitez-la comme un bloc-notes de travail plutôt qu'un endroit où déverser des documents entiers. Même à 8K de contexte, l'empreinte mémoire totale monte à environ 10.5 GB, alors gardez de la marge sur une carte 12 GB.

Face à ses cousins, Phi-4 14B et Qwen 3 14B sont les bons choix si vous voulez un modèle de chat et de raisonnement généraliste, car cette version sacrifie une partie de cette polyvalence au profit de la compréhension d'images. Phi-4 Mini 3.8B est l'option plus légère quand la mémoire est limitée. Son véritable atout : un raisonnement multimodal authentique pour une empreinte qui tient encore sur un seul GPU de milieu de gamme, et la licence MIT signifie aucune restriction commerciale à surveiller.