À la une Inceptive au Forum IT d’Abicom, le 26 novembre à Saint-Étienne
contactez-nouscontact

/cas d’usage

Cas d’usage · mis à jour le 2 novembre 2026

IA hébergée en local

Des modèles d’IA générative au travail, sans que vos données quittent votre infrastructure.

Une IA hébergée en local (on-premise) fait tourner le modèle de langage (LLM), l’index de vos documents et l’historique des conversations sur vos propres serveurs. Pour des données personnelles ou des documents sensibles confiés à une IA générative, la CNIL privilégie ce déploiement sur site. Archipel, notre plateforme d’IA générative, s’installe chez vous, sur une infrastructure dédiée.

01 / 10 /usagesUn assistant d’IA générative ouvert aux documents confidentiels.

/usages

Un assistant d’IA générative ouvert aux documents confidentiels.

Le barreau de Paris cite un outil déployé localement, sans envoi de données à des serveurs tiers, parmi trois voies pour préserver le secret professionnel de l’avocat. France Travail fait tourner sur site un modèle Mixtral de Mistral AI, en génération augmentée par récupération (RAG).

Assistant interneAssistant documentaireSynthèse de dossiersLivre blanc sur l’intelligence artificielle du barreau de Paris (2025) (nouvel onglet)Bac à sable IA et services publics : recommandations de la CNIL (nouvel onglet)

  • Assistant pour tous Met la rédaction, le résumé et la traduction à la portée de chaque salarié ou agent, sur un modèle installé chez vous.
  • Recherche documentaire Répond à partir de vos procédures, contrats et notes de service, indexés sur vos serveurs.
  • Socle des projets métier Accueille ensuite sur les mêmes serveurs la synthèse de dossiers, la rédaction assistée, l’extraction d’informations…

/fonctionnement

Un modèle de langage servi depuis vos propres serveurs.

Un modèle ouvert (open weights) se télécharge une fois, puis un logiciel installé chez vous le fait tourner sur des serveurs à processeurs graphiques (GPU). Aucune requête ne part chez son éditeur, et le modèle ne change pas au fil des conversations.

IA générative et LLM

  1. QuestionLa personne écrit dans l’interface, après authentification unique (SSO).
  2. RechercheLe moteur retrouve dans l’index local les passages des seuls documents que ses droits l’autorisent à consulter.
  3. RéponseLe modèle, chargé dans la mémoire des serveurs graphiques, rédige à partir de ces passages et renvoie aux documents utilisés, que la personne peut vérifier.
  4. TraceQuestion, réponse et sources rejoignent un journal conservé sur place, pour la durée que vous fixez.

/prérequis

Des serveurs graphiques dimensionnés sur le modèle retenu.

Selon le PEReN, pour l’Arcep, à matériel constant, les modèles de langage les plus gourmands ont une consommation GPU quatre à cinq fois plus élevée que les plus sobres. La taille du modèle (son nombre de paramètres) l’explique d’abord, avec la précision des calculs (quantification), le mode « raisonnement » et l’architecture. Un même modèle connaît un écart comparable d’une infrastructure GPU à l’autre.

Étude IA & Environnement du PEReN pour l’Arcep (nouvel onglet)MLOps

  • Prévoir un emplacement sous la forme de serveurs à vous ou loués en propre, et d’une équipe pour les exploiter
  • Réunir les documents à partir des sources que chaque service tient déjà à jour
  • Nommer un référent en lui confiant les droits d’accès et la liste des sources indexées

Selon l’ADEME, environ 53 % des usages numériques des Français sont hébergés à l’étranger.

/sur le terrain

Une IA interne jugée à son adoption autant qu’à ses serveurs.

Tout commence souvent par une règle d’usage : des outils d’IA grand public traitent déjà des fichiers internes, sans cadre. L’IA hébergée en local devient alors l’outil autorisé pour les documents sensibles.

Un modèle généraliste traite bien les tâches courantes, sans connaître votre métier. Formuler une demande et vérifier une réponse s’apprennent : formation des non-spécialistes, communauté de bonnes pratiques. Appeler le modèle d’un fournisseur tiers revient moins cher, au prix d’une dépendance et d’une moindre maîtrise de la confidentialité.

Changement de modèle

  • Un accès égal pour tous grâce à un forfait qui couvre toute l’organisation
  • Un levier sur vos éditeurs par la possibilité d’exiger, à l’achat, l’installation de leurs fonctions d’IA chez vous
  • Un modèle interchangeable grâce à des projets qui ne dépendent ni d’un modèle ni d’un hébergeur

/sécurité

Une IA en local sous votre propre politique de sécurité.

En 2025, l’ANSSI relève davantage de compromissions d’environnements d’informatique en nuage (cloud) et une forte hausse des exfiltrations de données, parfois après la compromission d’un prestataire.

Installée sur vos serveurs, l’IA relève de vos propres règles : segmentation du réseau, authentification forte, mises à jour, sauvegardes isolées. Selon le baromètre de Cybermalveillance.gouv.fr d’octobre 2025, 80 % des TPE et PME s’estiment insuffisamment préparées face aux cyberattaques. Faute de moyens internes, un hébergeur qui exploite et sécurise les serveurs prend le relais.

Panorama de la cybermenace 2025 (ANSSI) (nouvel onglet)

Incidents de sécurité portés à la connaissance de l’ANSSI, 2022-2025
  • 2022 2022 : 831 incidents 831
  • 2023 2023 : 1 112 incidents 1 112
  • 2024 2024 : 1 361 incidents 1 361
  • 2025 2025 : 1 366 incidents 1 366

Source : ANSSI, « Panorama de la cybermenace 2025 » (CERTFR-2026-CTI-002), mars 2026, 2025 (nouvel onglet)

/cadre

Des règles qui suivent vos données et vos équipes.

Le guide de sécurité de l’ANSSI pour l’IA générative (29 avril 2024) proscrit les outils d’IA générative en ligne pour un usage professionnel qui implique des données sensibles (recommandation R34).

Recommandations de sécurité pour un système d’IA générative (ANSSI, 2024) (nouvel onglet)Code de la santé publique, article L1111-8 (nouvel onglet)Règlement européen sur l’IA, article 4 (nouvel onglet)Veille réglementaireSouveraineté

  • Données de santé Exigent un hébergeur certifié HDS, avec un stockage dans l’Union européenne ou l’EEE, quand un tiers héberge celles issues de soins, de prévention, de diagnostic ou de suivi social et médico-social.
  • Secret professionnel Couvre toutes les pièces d’un dossier d’avocat (loi de 1971, art. 66-5) ; les experts-comptables y sont tenus sous les peines du code pénal.
  • Secret des affaires Ne protège une information que si son détenteur prend des mesures raisonnables pour la garder secrète (code de commerce, art. L151-1).
  • Maîtrise de l’IA Relève, pour toute organisation qui déploie une IA, d’une obligation de moyens envers son personnel, sans niveau garanti (règlement européen sur l’IA, article 4).

/méthode

Une IA en local, de l’inventaire au suivi de charge.

Le projet associe votre service informatique et votre délégué à la protection des données, de l’inventaire jusqu’au suivi.

Supervision des modèles

  • INVENTAIRE Vos sources se classent par sensibilité, et chaque usage reçoit un emplacement : vos serveurs, ou un hébergeur en France qui fait aussi tourner les modèles.
  • BANC D’ESSAI Plusieurs modèles ouverts se comparent sur des questions rédigées par vos équipes, et leur charge se mesure sur le matériel envisagé.
  • INSTALLATION La plateforme d’IA générative et le modèle choisi s’installent sur un segment de réseau dédié, reliés à votre annuaire, puis les sources retenues sont indexées.
  • SUIVI L’occupation des processeurs graphiques et le délai de réponse se suivent en continu ; le banc d’essai se rejoue avant tout changement de modèle.

/dans votre secteur

9 secteurs

Le même cas d’usage, décliné secteur par secteur.

  1. Collectivités Cas d’usage de l’IA dans les collectivités

    Installe l’assistant et les modèles sur les serveurs de la collectivité ou de son opérateur public mutualisé, pour que les dossiers d’usagers et les données sociales ne partent pas vers un service extérieur.

  2. Industrie Cas d’usage de l’IA dans l’industrie

    Installe les modèles sur un serveur de l’usine ou de l’entreprise, pour que plans, recettes, prix et historiques de production ne partent pas chez un service extérieur.

  3. BTP et immobilier Cas d’usage de l’IA dans le BTP et l’immobilier

    Installe l’assistant et les modèles sur les serveurs du bailleur ou de l’entreprise, pour interroger dossiers de locataires, maquettes et relevés de chantier sans les envoyer à un service extérieur.

  4. Commerce et distribution Cas d’usage de l’IA dans le commerce et la distribution

    Installe sur vos serveurs les modèles qui lisent conditions d’achat, marges, accords fournisseurs et fichier clients, pour que ces données de négociation ne quittent pas l’entreprise.

  5. Transport et logistique Cas d’usage de l’IA dans le transport et la logistique

    Installe les modèles sur les serveurs du transporteur ou du logisticien, ou chez un hébergeur qu’il choisit, pour que les tarifs, les volumes des chargeurs et les données des conducteurs ne partent pas à l’extérieur.

  6. Santé et médico-social Cas d’usage de l’IA dans la santé et le médico-social

    Installe le modèle de transcription ou l’assistant sur les serveurs de l’association ou du groupement, pour que transmissions et dossiers des usagers ne quittent pas votre système d’information.

  7. Banque et assurance Cas d’usage de l’IA dans la banque et l’assurance

    Installe les modèles sur l’infrastructure de la mutuelle, de la banque ou du cabinet, pour que données de santé, relevés de compte et dossiers patrimoniaux ne partent pas chez un fournisseur extérieur.

  8. Services aux entreprises Cas d’usage de l’IA dans les services aux entreprises

    Installe le modèle sur un serveur du cabinet ou chez un hébergeur européen qu’il choisit, pour que les pièces couvertes par le secret professionnel et les données des clients ne partent pas chez un fournisseur extérieur.

  9. Agriculture Cas d’usage de l’IA dans l’agriculture

    Installe les modèles sur les serveurs de la coopérative ou chez un hébergeur en France, pour que les données des adhérents, des parcelles et des contrats ne partent pas à l’extérieur.

/à savoir

Les questions fréquentes sur le LLM en local.

Questions-réponses de la CNIL sur l’IA générative (nouvel onglet)Règlement européen sur l’IA, annexe III (nouvel onglet)Règlement européen sur l’IA, article 6 (nouvel onglet)contactez-nous

Quelle différence entre une IA en local et un cloud souverain ?

Une IA en local tourne sur des serveurs que vous possédez ou louez en propre ; un cloud dit souverain, chez un fournisseur établi en France ou en Europe. Pour des données sensibles en cloud public, l’ANSSI recommande une offre qualifiée SecNumCloud (recommandation R14), dont une IA en local se passe.

Faut-il acheter des serveurs GPU pour une IA en interne ?

Pas au départ. Louer des serveurs graphiques chez un hébergeur en France permet de mesurer la charge réelle : utilisateurs simultanés, taille du modèle, volume indexé. L’achat se décide ensuite, si cette charge se maintient.

IA en local et RGPD : que faut-il prévoir ?

Sur vos serveurs, les données ne sont confiées à aucun service extérieur. Le reste du RGPD s’applique : durée de conservation des conversations, information des personnes, droits d’accès. La CNIL recommande aussi une charte des usages permis et, selon les cas, une analyse d’impact (AIPD).

Une IA hébergée en local est-elle une IA à haut risque ?

Pas du fait de son hébergement : le règlement européen sur l’IA classe les usages. Le haut risque vise ceux de l’annexe III, comme le tri de candidatures (point 4), avec des obligations au 2 décembre 2027. Il vise aussi un produit de l’annexe I, ou son composant de sécurité, soumis à une évaluation par un tiers.

/sources

Sources

/cas proches

  • Changement de modèle Remplace un modèle par un plus récent ou moins coûteux, après l’avoir mesuré sur vos propres cas.
  • Assistant documentaire Répond aux questions de vos équipes à partir de vos documents internes, en citant la source de chaque réponse.
  • Lecture de textes réglementaires Interroge un corpus de règles, comme un plan d’urbanisme, des normes ou des procédures, et indique les articles qui s’appliquent à une situation.
  • Rédaction assistée Prépare courriers, réponses et rapports à partir de vos modèles validés et du dossier, relus par vos équipes avant envoi.
  • Synthèse de dossiers et de réunions Résume les dossiers longs, les échanges et les réunions, et en extrait les décisions et les actions.
  • Réponse aux appels d’offres Retrouve dans vos réponses passées les éléments utiles et prépare une première trame à compléter.

/contact

Travaillons ensemble

Découvrez comment Inceptive peut vous aider à transformer votre activité et à résoudre des problématiques opérationnelles complexes grâce à l’intelligence artificielle.

contactez-nous