L'IA locale

Trois raisons principales : la confidentialité (aucune donnée n'est envoyée à un tiers), le coût (pas de facturation à l'usage une fois le matériel acquis), et l'indépendance (le modèle continue de fonctionner sans connexion internet ni service tiers disponible).

Cela dépend de la taille du modèle. Muse Glimmer, le modèle à poids ouverts de Meta sorti en août 2026, est explicitement conçu pour tourner sur un seul GPU grand public (environ 20 Go de mémoire nécessaire en quantification 4 bits) — voir sa fiche complète. Les modèles plus volumineux (plusieurs centaines de milliards de paramètres, comme Mistral Large 3) demandent en revanche un matériel professionnel bien plus coûteux, hors de portée d'un usage individuel classique.

Une technique qui réduit la précision numérique des paramètres d'un modèle (par exemple de 16 à 4 bits par paramètre) pour diviser fortement ses besoins en mémoire, au prix d'une légère perte de qualité de réponse. C'est ce qui rend possible l'exécution de modèles de plusieurs dizaines de milliards de paramètres sur du matériel grand public.

Pour des modèles très allégés (quelques milliards de paramètres), oui, avec des compromis significatifs sur la qualité des réponses par rapport à un modèle frontière. Les modèles les plus performants de ce comparatif restent hors de portée d'un smartphone actuel.

Oui : une entreprise peut héberger un modèle open source ou open weights sur son propre serveur ou son cloud privé, ce qui répond à la fois aux besoins de confidentialité et de volume, sans les limites de mémoire d'un ordinateur individuel. C'est une option de plus en plus envisagée par les entreprises soucieuses de ne pas transmettre de données sensibles à un tiers.

Le calcul dépend du volume d'usage : pour un usage ponctuel ou faible, l'API reste presque toujours moins chère que d'investir dans du matériel dédié. Pour un usage intensif et récurrent, l'amortissement du matériel peut devenir plus avantageux qu'une facturation à l'usage — mais implique aussi des coûts de maintenance et d'électricité à ne pas sous-estimer.