/expertises
IA générative et LLM
Des modèles de langage reliés à vos documents et à vos outils
Un grand modèle de langage (LLM) est un modèle d’IA générative entraîné sur d’immenses corpus de textes : il comprend une demande et rédige une réponse. Nos ingénieurs le relient à vos documents, à vos logiciels et à vos règles d’accès, choisissent son hébergement selon la sensibilité de vos informations, puis le maintiennent en service.
/usages
Des usages de l’IA générative, à partir de vos documents.
L’IA générative prend en charge les tâches de lecture et d’écriture qui occupent vos équipes chaque jour : retrouver une information, rédiger, résumer, traduire, répondre.
Chaque usage s’appuie sur vos documents et sur vos modèles validés. Vos équipes relisent les propositions du modèle avant tout envoi, et gardent la décision.
- Assistant documentaire Répond aux questions de vos équipes à partir de vos procédures, de vos contrats et de vos notes internes, et renvoie pour chaque réponse au passage d’origine.
- Lecture de textes réglementaires Interroge un plan d’urbanisme, un recueil de normes ou un ensemble de procédures, et indique les articles qui s’appliquent à une situation décrite en quelques lignes.
- Rédaction assistée Prépare courriers, réponses aux usagers et rapports à partir de vos modèles validés et des pièces du dossier, dans le ton de votre organisation.
- Synthèse de dossiers et de réunions Résume un dossier de plusieurs centaines de pages ou la transcription d’une réunion, et en extrait les décisions, les échéances et les actions de chacun.
- Réponse aux appels d’offres Retrouve dans vos réponses passées, vos références et vos fiches techniques les éléments qui répondent au cahier des charges, puis prépare une première trame.
- Traduction spécialisée Traduit documents techniques et échanges en respectant vos glossaires, votre vocabulaire métier et vos tournures habituelles.
/fonctionnement
Un LLM relié à vos sources et à vos règles.
Un modèle de langage connaît le monde tel qu’il était à la fin de son entraînement, et rien de votre organisation. Relié à vos sources, il répond à partir de vos documents à jour, dans les limites de ce que chaque utilisateur a le droit de lire.
Un assistant fiable réunit trois briques : le modèle, la recherche dans vos documents et vos règles d’accès. Nos ingénieurs les assemblent, les relient à vos outils et les maintiennent.
- Le modèle Comprend la demande et rédige la réponse. Nous le choisissons parmi les modèles ouverts et commerciaux, selon la tâche et la sensibilité des informations.
- La recherche dans vos documents Retrouve les passages utiles de vos documents et les fournit au modèle, qui répond à partir d’eux et les cite.
- Vos règles d’accès Chaque utilisateur n’interroge que les documents qu’il a le droit de lire, comme dans vos outils actuels.
Une question en langage courant, une réponse tirée de vos documents.
/rag
Une génération augmentée par récupération, en quatre étapes.
La génération augmentée par récupération (RAG) fournit au modèle, au moment de répondre, les passages utiles de vos documents. Sa mise en place suit quatre étapes, du rassemblement des documents à la mesure des réponses.
- Rassembler Nous réunissons les documents de vos espaces partagés, de votre gestion documentaire et de vos logiciels, et retirons doublons et versions périmées.
- Découper et indexer Chaque document est découpé en passages, puis indexé : une question retrouve les passages qui y répondent, même formulée autrement.
- Relier L’index rejoint le modèle et vos règles d’accès. Chaque utilisateur n’interroge que ce qu’il a le droit de lire.
- Mesurer Des questions tirées de vos documents mesurent l’exactitude des réponses et la justesse des sources, avant la mise en service.
/fiabilité
Des réponses sourcées et vérifiables.
- hallucination une réponse fausse, formulée avec la même assurance qu’une réponse juste.
Un modèle de langage peut formuler une information fausse avec la même assurance qu’une information juste : c’est une hallucination1. Trois mécanismes en réduisent le risque et la rendent visible.
Avant la mise en service, nous mesurons chaque modèle sur un jeu d’essai tiré de vos documents : l’exactitude des réponses et la justesse des sources citées. Le même jeu d’essai sert à chaque changement de modèle.
- Des sources citées pour vérifier chaque réponse dans le document d’origine
- Des réponses bornées à vos documents, quand la question l’exige
- Des modèles mesurés sur vos cas, avant et après chaque changement
Chaque réponse cite le document d’où elle vient.
/hébergement
Un hébergement du LLM choisi selon vos informations.
Un modèle de langage s’exécute chez un hébergeur, chez son éditeur ou sur votre infrastructure. Le droit applicable à vos données est celui de l’opérateur qui le fait tourner.
Nous retenons pour chaque usage le niveau qui convient : chez Scaleway, en France, avec Lagon pour que les modèles y tournent aussi, ou sur votre propre infrastructure.
- Scaleway, en France pour la plupart des usages courants
- Lagon pour que les modèles tournent eux aussi en France
- Chez vous sur une infrastructure dédiée, dans vos murs
/archipel
Archipel, l’IA générative pour toute votre organisation.
Archipel donne à toutes vos équipes un assistant qui répond à partir de vos documents internes et cite ses sources. Il s’appuie sur un logiciel dont le code est public (Open WebUI), que nos ingénieurs installent, relient à vos sources et maintiennent. Archipel est retenu au Panorama des solutions d’IA de l’État.
Il est facturé par organisation, et non par utilisateur : toutes vos équipes y ont accès, et vos documents ne passent plus par des comptes personnels.
- 50 utilisateurs, le seuil où le forfait coûte moins que des licences individuelles
- 1 forfait pour toute l’organisation, sans licence par utilisateur
- 4 heures pour prendre en charge un incident critique
/sur mesure
Des développements d’IA générative sur mesure.
Certains usages dépassent l’assistant : un modèle ajusté à votre vocabulaire, le traitement de documents en série, l’intégration dans un logiciel métier. AI Studio les conçoit, les met en production et les maintient.
En 2024, nos ingénieurs ont rédigé pour le projet européen ROLEPL-AI un rapport sur les progrès des grands modèles de langage depuis 2020. Il couvre les transformeurs, l’apprentissage en contexte, le raisonnement étape par étape, les modèles ouverts et leur adaptation.
- Modèle ajusté à votre métier Spécialise un modèle ouvert sur votre vocabulaire et vos tâches (fine-tuning) : il répond plus juste et coûte moins cher à faire tourner qu’un grand modèle généraliste.
- Traitement de documents en série Lit chaque jour des centaines de courriers, de factures ou de dossiers, en extrait les informations utiles et les range dans vos logiciels.
- Modernisation de logiciels anciens Aide vos développeurs à lire, documenter et faire évoluer un code ancien, en préservant les règles métier qu’il contient.
/à savoir
Les questions les plus fréquentes sur les LLM.
Les recommandations de l’ANSSI pour un système d’IA générative (nouvel onglet)
Un LLM et l’IA générative
Un grand modèle de langage est une forme d’IA générative spécialisée dans le texte. L’IA générative produit aussi des images, du son ou du code.
Le meilleur modèle
Aucun modèle n’est le meilleur partout, et le classement change plusieurs fois par an. Un modèle plus petit suffit souvent à une tâche précise, pour un coût moindre. Nous comparons les modèles sur vos propres cas.
Les petits modèles de langage
Un petit modèle (SLM), de quelques milliards de paramètres, tourne sur un seul serveur. Il suffit à beaucoup de tâches précises : classer, extraire, résumer.
Le RAG en entreprise
La génération augmentée par récupération fournit au modèle, au moment de répondre, les passages utiles de vos documents. Le modèle répond alors à partir de vos sources à jour, et les cite.
Les hallucinations
Elles se réduisent en bornant le modèle à vos documents, en lui faisant citer ses sources et en mesurant ses réponses avant chaque mise en service. Une relecture humaine reste de règle pour tout envoi.
La sécurité d’un assistant
Un assistant d’IA générative s’expose à des attaques propres, comme des instructions cachées dans un document (injection de prompt). Les règles d’accès, le cloisonnement des espaces et la relecture humaine des actions les contiennent.
Vos documents et l’entraînement
Vos documents servent à répondre, et non à entraîner les modèles. Avec Lagon ou chez vous, ils ne quittent pas la France.
Le coût
Il dépend du volume de requêtes, de la taille des modèles et de l’hébergement. Archipel est facturé par organisation : à partir de 50 utilisateurs, l’économie sur les licences individuelles paie un hébergement entièrement confidentiel.
/cas d’usage
Des cas d’usage fondés sur l’IA générative.
- Assistant documentaire Répond aux questions de vos équipes à partir de vos documents internes, en citant la source de chaque réponse.
- Lecture de textes réglementaires Interroge un corpus de règles, comme un plan d’urbanisme, des normes ou des procédures, et indique les articles qui s’appliquent à une situation.
- Rédaction assistée Prépare courriers, réponses et rapports à partir de vos modèles validés et du dossier, relus par vos équipes avant envoi.
- Synthèse de dossiers et de réunions Résume les dossiers longs, les échanges et les réunions, et en extrait les décisions et les actions.
- Réponse aux appels d’offres Retrouve dans vos réponses passées les éléments utiles et prépare une première trame à compléter.
- Traduction spécialisée Traduit documents et échanges en respectant votre vocabulaire métier, vos glossaires et vos tournures.
- Fiches et descriptions Rédige fiches produits, descriptions et résumés à partir de vos données, dans le ton de votre organisation.
- Modernisation de logiciels anciens Aide vos développeurs à lire, documenter et faire évoluer un code ancien, sans perdre les règles métier qu’il contient.
- Instruction de dossiers Rassemble les pièces d’un dossier, vérifie leur complétude et leur cohérence, et signale ce qui manque.
- Veille automatisée Surveille publications, sources et appels d’offres, retient ce qui vous concerne et vous en livre l’essentiel.
- Agent conversationnel pour vos usagers Répond jour et nuit aux questions fréquentes, suit les dossiers simples et passe la main à un conseiller quand il le faut.
- Assistant interne Répond aux questions courantes des salariés (congés, outils, procédures) et prend en charge les demandes simples.
- Transcription et compte rendu Transcrit appels et réunions, puis en tire l’essentiel : sujets abordés, décisions, suites à donner.
- IA hébergée chez vous Installe les modèles et les outils sur votre infrastructure, sans envoyer vos données à un service extérieur.
- Changement de modèle Remplace un modèle par un plus récent ou moins coûteux, après l’avoir mesuré sur vos propres cas.
/dans cette rubrique
- Expertises La bonne technique pour chaque problème
- MLOps L’industrialisation qui fait durer vos modèles
- Machine Learning Prévoir, classer, détecter, recommander
- Deep Learning Des réseaux de neurones pour les images, les sons, les textes
- Science des données Ce que vos données disent, et ce qu’il leur manque
- Ingénierie des données Un socle de données fiable, prêt pour l’IA
- Agents IA Des agents qui travaillent dans vos outils
- Vision par ordinateur Lire, mesurer et contrôler les images
/contact
Travaillons ensemble
Découvrez comment Inceptive peut vous aider à transformer votre activité et à résoudre des problématiques opérationnelles complexes grâce à l’intelligence artificielle.