Stratégie IA

IA locale en entreprise : dans quels cas et avec quels moyens

Une IA locale tourne sur les ordinateurs ou les serveurs de votre entreprise, sans envoyer les données à un prestataire extérieur. Ce guide explique quand elle se justifie, le matériel et les logiciels nécessaires, ses limites et un test de dix minutes pour trancher.

IA locale : ce que c'est et pourquoi les cabinets la demandent

Une IA locale est un modèle de langage qui tourne sur un ordinateur ou un serveur de votre entreprise, et non sur les serveurs d'OpenAI, de Google, de Microsoft ou d'Anthropic. Quand une avocate demande à une IA locale de résumer un dossier, le texte est traité sur cette machine et ne part chez aucun prestataire.

C'est possible parce que plusieurs éditeurs publient des modèles à poids ouverts, que chacun peut télécharger et faire tourner sur son propre matériel. On y trouve Mistral AI, entreprise française, Google avec sa famille Gemma et Meta avec Llama. Des logiciels gratuits comme Ollama ou LM Studio simplifient l'installation sur un poste de bureau.

Les premiers demandeurs sont les cabinets d'avocats, les experts-comptables et les cabinets médicaux. Ils manipulent des informations couvertes par le secret professionnel ou des données de santé, que l'article 9 du RGPD range parmi les catégories particulières. Pour eux, garder les documents dans les murs compte davantage que disposer du modèle le plus puissant.

Quand faire tourner une IA en local, et quand s'en passer

L'IA en local se justifie quand deux conditions se rencontrent : des données que vous ne voulez pas confier à un tiers, même avec un contrat professionnel assorti de garanties, et des tâches cadrées qu'un modèle de taille moyenne fait bien. Résumer un rapport, trier les e-mails entrants, extraire les dates et les parties d'un contrat ou chercher dans les archives internes s'y prêtent.

Elle aide aussi si vous travaillez avec une connexion médiocre, si vous voulez que le modèle ne change pas d'un mois à l'autre, ou si l'usage est très intense et répétitif. Le coût ressemble alors davantage à un investissement en matériel qu'à une facture qui grossit avec la consommation.

Elle ne se justifie pas si votre équipe a surtout besoin du meilleur raisonnement disponible : rédiger des conclusions complexes, analyser une stratégie en profondeur ou traiter des documents très longs. Les grands modèles dans le cloud restent meilleurs sur ces tâches. Elle n'a pas de sens non plus si personne, en interne ou chez un prestataire, ne s'occupe d'entretenir la machine, de mettre à jour le logiciel et de surveiller les accès.

Ce qu'il faut pour installer une IA en local

On parle d'une PME, avec un ordinateur puissant ou un petit serveur. Les besoins exacts dépendent du modèle choisi.

  • Une machine avec assez de mémoire

    La mémoire de la carte graphique, ou la mémoire unifiée des ordinateurs à puce Apple, détermine la taille du modèle que vous pouvez charger. Les versions compressées d'un modèle prennent moins de place au prix d'un peu de qualité. Pour plusieurs utilisateurs simultanés, il faut en général un serveur avec carte graphique.

  • Un logiciel pour faire tourner le modèle

    Ollama fonctionne sous macOS, Windows et Linux. Attention : il propose aussi des modèles cloud qui tournent sur ses propres serveurs, vérifiez donc que le modèle choisi est bien local. LM Studio est une autre option de bureau.

  • Un modèle dont la licence convient

    Chaque modèle à poids ouverts a sa propre licence, et certaines encadrent l'usage commercial. Lisez-la avant de l'utiliser au travail, et testez plusieurs modèles sur vos propres documents.

  • Un accès à vos documents

    Seul, un modèle ne connaît rien de vos dossiers. Pour qu'il réponde à partir de vos pièces ou de vos protocoles, il faut le relier à une recherche dans ces documents et décider quels dossiers chacun peut interroger.

  • Quelqu'un pour l'entretenir

    Mises à jour du logiciel et du modèle, sauvegardes, comptes utilisateurs et journal d'utilisation. C'est un petit travail, mais régulier, à attribuer dès le premier jour.

Les limites d'une IA locale à connaître

  • Moins de capacités que les grands modèles

    Les modèles qui tiennent sur un matériel de bureau sont plus petits. Ils résument et extraient bien, mais se trompent davantage sur les raisonnements longs, les nuances juridiques ou médicales et les documents très longs.

  • Une vitesse liée au matériel

    Comme l'indique Ollama lui-même, la vitesse dépend du matériel. Sur un portable ordinaire, une réponse longue peut prendre assez de temps pour que l'équipe renonce à s'en servir.

  • Le RGPD s'applique toujours

    Traiter en interne limite les transferts vers des tiers, mais votre entreprise reste responsable du traitement. Il faut maîtriser les accès, savoir quelles données sont traitées et pour quelle finalité, et le documenter.

  • Les erreurs ne disparaissent pas

    Un modèle local se trompe comme un modèle cloud, parfois davantage. Chaque résumé ou donnée extraite destinée à un client ou à un patient doit être relu par un professionnel.

Le test des dix minutes : avez-vous besoin d'une IA locale ?

Répondez par oui ou par non à chaque question. À partir de trois oui, un pilote local vaut la peine. Avec un oui ou aucun, une offre cloud professionnelle est en général plus simple.

  • Vos données relèvent-elles du secret ou de la santé ?

    Dossiers clients, dossiers médicaux, données fiscales de vos clients. Si oui, l'argument en faveur du local est solide.

  • Les tâches sont-elles cadrées et répétitives ?

    Résumer, classer, extraire des champs, chercher dans des archives. Un modèle de taille moyenne fait bien ce type de travail.

  • Vous ou un prestataire pouvez-vous entretenir une machine ?

    Quelqu'un qui a le temps d'installer, de mettre à jour, de sauvegarder et de gérer les comptes, en interne ou en externe.

  • Plusieurs personnes s'en serviraient-elles chaque jour ?

    Avec un usage quotidien et répété, le coût du matériel se répartit. Pour un usage ponctuel, c'est rarement rentable.

  • Pouvez-vous accepter un peu moins de qualité ?

    Si vos tâches demandent le meilleur raisonnement disponible, l'écart avec les grands modèles se verra.

Exemple

Un cabinet d'avocats lyonnais teste un modèle dans ses locaux

Un cabinet fictif de Lyon, avec huit avocats, veut résumer les pièces que transmettent les clients et repérer les dates et les délais dans des contrats longs. Les associés refusent que ces documents sortent du cabinet, et ils répondent oui à quatre questions du test des dix minutes.

Avec leur prestataire informatique, ils installent un modèle à poids ouverts sur un ordinateur équipé d'une carte graphique, sur le réseau interne. Ils le relient à un dossier de test contenant des affaires clôturées et posent une règle : le modèle prépare le résumé et la liste des délais, et l'avocat responsable relit toujours.

Pendant six semaines, ils comparent les résumés du modèle avec ceux qu'aurait rédigés un avocat. Pour le travail courant, comme des e-mails sans données clients ou un support de présentation, le cabinet utilise une offre cloud professionnelle avec les garanties contractuelles du fournisseur.

Pour mesurer, ils notent le temps passé sur chaque résumé avant et après, relecture comprise, les erreurs trouvées et leur type, et le nombre de résumés à refaire. Ces chiffres leur disent s'il faut étendre le modèle à tous les dossiers en cours ou garder le cloud pour tout.

Local, cloud ou mixte : bien placer votre investissement

Le choix n'est pas seulement technique. Il commence par savoir quelles données touche chaque tâche, qui la fait et ce qui se passe si le résultat est faux. Avec cette cartographie, certaines tâches iront vers un modèle local, d'autres vers une offre cloud professionnelle, et d'autres n'auront pas besoin d'IA.

Obinova est une agence IA basée à Barcelone et à Paris. Lors d'un audit IA, nous cartographions avec votre équipe les processus, les données qu'ils touchent et les tâches que l'IA peut transformer, puis nous vous recommandons la place de chaque option. Si le processus le demande, nous construisons les workflows dans n8n, qui peut être installé sur votre propre serveur et relié à un modèle local.

Questions fréquentes

Qu'est-ce qu'une IA locale ?

C'est un modèle de langage qui tourne sur un ordinateur ou un serveur de votre entreprise, et non sur les serveurs d'un fournisseur comme OpenAI ou Google. Les textes et documents que vous lui donnez sont traités sur cette machine. On utilise pour cela des modèles à poids ouverts, que l'on télécharge, et des logiciels comme Ollama ou LM Studio.

Un LLM local est-il plus sûr que ChatGPT ?

Il réduit un risque précis : que les données arrivent chez un tiers. Mais la sécurité dépend aussi des accès à la machine, des sauvegardes et des mises à jour. Un ordinateur mal protégé au bureau peut être moins sûr qu'une offre cloud professionnelle avec de bonnes garanties contractuelles et une configuration soignée.

Quel ordinateur faut-il pour un LLM local ?

Cela dépend de la taille du modèle. Ce qui compte le plus, c'est la mémoire disponible pour le modèle : celle de la carte graphique ou, sur les ordinateurs à puce Apple, la mémoire unifiée. Un petit modèle tourne sur un bon poste de bureau. Pour plusieurs utilisateurs ou un modèle plus gros, il faut un serveur avec carte graphique.

Combien coûte l'installation d'une IA en local ?

Les logiciels les plus courants et de nombreux modèles se téléchargent gratuitement. Le coût tient donc au matériel, à l'installation, au raccordement à vos documents et à l'entretien. Il dépend du nombre d'utilisateurs, de la taille du modèle et des tâches. Chez Obinova, nous vous remettons un devis après le premier rendez-vous, une fois le cas compris.

Une IA locale est-elle automatiquement conforme au RGPD ?

Non. Traiter les données sur vos propres machines évite de les envoyer à un fournisseur, mais votre entreprise reste responsable du traitement. Vous devez savoir quelles données personnelles sont traitées, pour quelle finalité, qui y accède et combien de temps les résultats sont conservés. Avec des données de santé, catégorie particulière au sens du RGPD, les exigences sont plus fortes.

Décidez où doit tourner votre IA

Réservez un rendez-vous gratuit de 30 minutes en visio. Nous examinons les données que touchent vos tâches et vous disons franchement si un modèle local, une offre cloud ou un mélange des deux vous convient.

Diagnostic gratuit de 30 min →
Diagnostic gratuitWhatsApp

WhatsApp · Réponse en moins de 2 h aux heures de bureau