Petits modèles IA : un résultat comparable, une facture divisée

Les petits modèles IA, de quelques milliards de paramètres, traitent très bien des tâches ciblées : classer des courriels, extraire des champs, résumer des fiches, répondre à partir d'une courte base. Nous les comparons à un grand modèle sur vos propres documents, puis nous déployons le gagnant sur un serveur dont vous maîtrisez la localisation, avec quantification, supervision et mises à jour. Le périmètre comprend le banc d'essai, l'installation, l'authentification des appels, la journalisation et la documentation. Les modèles ouverts retenus ont une licence compatible avec un usage commercial.

Faut-il vraiment un modèle géant pour trier du courrier ? Beaucoup d'entreprises se posent la question en découvrant leur première facture d'API ou en réalisant que leurs documents ne doivent pas quitter leurs murs. Les petits modèles IA apportent une réponse : sur une tâche étroite et répétitive, ils atteignent souvent un niveau proche d'un grand modèle, avec un coût de fonctionnement bien inférieur, une latence courte et une confidentialité plus simple à démontrer. Le sujet est d'actualité parce que les modèles ouverts compacts, dont plusieurs conçus en Europe, ont fortement progressé et que les outils de service comme Ollama, vLLM ou llama.cpp se sont simplifiés. Côté utilisateurs, rien ne change, hormis des réponses plus rapides et un budget prévisible. Le service n'a pas vocation à vous conseiller sur le choix global d'un fournisseur, ni à entraîner un modèle, ni à promettre qu'un petit modèle suffira partout. Pour les tâches complexes de raisonnement ou de rédaction longue, un grand modèle reste souvent préférable, et nous le disons. Nous mesurons chaque candidat sur 100 à 200 de vos cas, nous chiffrons le coût total, matériel et exploitation compris, et nous vous laissons arbitrer. Un retour vers un service hébergé reste possible, car l'interface d'appel est identique.

• Les modèles sont classés sur vos documents réels, non sur des palmarès publics qui ignorent votre langue et votre métier.
• Le coût total est calculé matériel, électricité, exploitation et temps humain compris, afin de comparer honnêtement avec une facture d'API.
• Interface d'appel compatible avec les services hébergés, donc un retour vers un grand modèle reste possible sans réécrire vos outils.
• Licences vérifiées modèle par modèle pour un usage commercial, avec la liste des restrictions éventuelles consignée dans le dossier.
• Les tâches qui demandent un grand modèle sont identifiées franchement et laissées de côté plutôt que dégradées.

• Rapport de banc d'essai chiffré
• Serveur d'inférence installé et documenté
• Interface d'appel compatible avec vos outils
• Tableau du coût total de possession
• Procédure de mise à jour et de repli
• Séance de formation de l'exploitant

• Ma facture d'API grimpe alors que mes usages sont simples et répétitifs.
• Mes documents sont trop sensibles pour partir chez un fournisseur américain.
• Je ne sais pas quelle taille de modèle choisir pour ma tâche précise.

Cabinet d'assurance de 60 personnes : un modèle compact trie les courriels entrants en quinze catégories sur un serveur européen, avec une qualité proche de la solution précédente à un coût bien moindre.

Mutuelle de 150 salariés : extraction de champs de formulaires scannés sur serveur interne, les données de santé ne quittant pas l'infrastructure.

PME industrielle de 90 personnes : un modèle local résume les rapports d'incident dans l'atelier, y compris en cas de coupure de la connexion.

Public visé

DSI · CTO · RSSI · Responsable data

Tailles d’entreprise

PME · ETI

Secteurs adaptés

Assurance · Santé administrative · Industrie · Services financiers · Collectivités · Juridique

Prérequis

Un échantillon de cent cas réels ou davantage, avec le résultat attendu · Une décision de principe sur l'hébergement : interne, cloud européen ou poste local · Un exploitant technique désigné pour la suite

• Ollama
• vLLM
• llama.cpp
• Mistral
• Gemma
• Phi
• Docker
• Prometheus

Sur des tâches répétitives à fort volume, le coût par traitement peut souvent être divisé par plusieurs unités face à un grand modèle hébergé. Le seuil de rentabilité dépend de votre volume et du matériel retenu ; il se calcule au banc d'essai.