Formation · RAG & applications LLM · AI engineering & applications LLM

RAG & applications LLM pour les AI engineers

Développer des applications RAG et LLM : embeddings, bases vectorielles, chunking, retrieval, évaluation, coûts et protection des données.

Durée
2 jours (14 h)
Format
En ligne ou en présentiel
Langue
Allemand ou anglais
Participants
sessions ouvertes ou intra-entreprise
Attestation
Attestation de participation

Présentation

« RAG & applications LLM pour les AI engineers » s’adresse notamment aux profils suivants : Développeurs intégrant des fonctions LLM dans leurs produits, AI engineers et machine learning engineers et Data scientists spécialisés en IA générative. Elle montre pas à pas comment utiliser RAG & applications LLM de manière productive, sûre et traçable dans le domaine AI engineering & applications LLM – des bases aux workflows avancés.

La génération augmentée par récupération, ou RAG, relie les modèles de langage à vos propres connaissances : manuels, contrats, tickets, wikis ou données produits deviennent interrogeables et sont fournis au modèle comme contexte au moment de la requête. Vous obtenez des assistants qui répondent sur des bases solides, sources à l’appui, au lieu d’halluciner. Pendant ces deux jours, vous construisez un pipeline RAG complet, de la préparation des documents à la génération des réponses en passant par les embeddings et la base vectorielle, et identifiez les leviers qui font réellement la qualité.

Le second jour mène du prototype à une application robuste. Vous comparez les stratégies de chunking, combinez recherche sémantique et lexicale, appliquez reranking, filtres de métadonnées et reformulation des requêtes, puis mesurez leur effet grâce à des évaluations systématiques. Sont également abordés le prompt caching, la maîtrise des coûts, l’optimisation de la latence, les droits d’accès au niveau des documents et une exploitation conforme au RGPD et à l’AI Act européen. Vous saurez quand un RAG classique suffit, quand une grande fenêtre de contexte ou un retrieval agentique convient mieux, et comment justifier vos choix d’architecture.

L’AI engineering est la discipline qui transforme les modèles de langage en produits fiables : assistants conversationnels, analyse de documents, génération augmentée par la recherche, agents dotés d’outils et fonctions d’IA intégrées aux applications existantes. Le code qui entoure le modèle est souvent plus exigeant que l’appel au modèle lui-même, car versionnage des prompts, sorties structurées, évaluation, maîtrise des coûts, latence, observabilité et protection contre l’injection de prompt font la différence en production. Les assistants de codage IA et les agents accélèrent précisément ce travail, de la construction de pipelines d’évaluation aux définitions d’outils et serveurs MCP, jusqu’à l’analyse des erreurs dans les traces. Vous apprendrez à développer méthodiquement des applications LLM avec l’IA, à rendre leur qualité mesurable et à les exploiter de façon sûre, économique et conforme.

La formation se déroule en direct – en ligne dans une classe virtuelle ou en présentiel dans nos salles à Munich, Salzbourg, Berlin, Augsbourg, Hanovre, Brême, Stuttgart et Kaiserslautern. Nous pouvons également l’organiser en intra pour votre équipe.

À qui s’adresse cette formation ?

  • Développeurs intégrant des fonctions LLM dans leurs produits
  • AI engineers et machine learning engineers
  • Data scientists spécialisés en IA générative
  • Équipes backend et plateforme fournissant l’infrastructure IA
  • Product owners techniques responsables de fonctionnalités IA

Les défis concrets que nous traitons

  • Des prototypes brillants en démonstration mais d’une qualité irrégulière en production
  • L’absence d’évaluation systématique qui rend risquée toute modification de prompt ou de modèle
  • Des coûts, une latence et des limites de débit qui dérapent avec la montée en charge
  • De nouveaux risques liés à l’injection de prompt, aux fuites de données et aux agents trop privilégiés

Objectifs pédagogiques

  • Vous construisez un pipeline RAG complet, de la préparation des documents aux réponses sourcées.
  • Vous choisissez de façon argumentée modèle d’embeddings, stratégie de chunking et base vectorielle.
  • Vous améliorez la pertinence des résultats grâce à la recherche hybride, au reranking et aux filtres de métadonnées.
  • Vous mesurez la qualité de votre application par des évaluations systématiques et détectez les régressions.
  • Vous développez méthodiquement avec des outils de codage IA des applications RAG, des agents et des fonctions LLM prêts pour la production.
  • Vous rendez la qualité de vos applications LLM mesurable et pilotable grâce à des évaluations automatisées.
  • Vous exploitez vos applications LLM de façon sûre et économique, avec observabilité, protection contre l’injection de prompt et droits maîtrisés.

Programme

Jour 1

Module 1 Fondamentaux du RAG et des applications LLM
  • Anatomie d’un pipeline RAG : ingestion, indexation, recherche, génération
  • Comprendre les embeddings : similarité sémantique, dimensions, choix du modèle
  • Arbitrer entre RAG, fine-tuning et grandes fenêtres de contexte
  • Sorties structurées, citation des sources et gestion des hallucinations
Module 2 Préparation des documents et chunking
  • Extraire de façon fiable PDF, documents bureautiques, HTML et tableaux
  • Stratégies de chunking : taille fixe, selon la structure, sémantique, avec chevauchement
  • Enrichir les métadonnées et générer des résumés contextuels par chunk
  • Mise à jour incrémentale et suppression de documents dans l’index
Module 3 Bases vectorielles et stratégies de recherche
  • Comparer bases et extensions vectorielles comme pgvector, Qdrant, Weaviate ou OpenSearch
  • Recherche hybride combinant vecteurs et plein texte avec BM25
  • Reranking, filtres de métadonnées et reformulation des requêtes
  • Retrieval agentique : le modèle décide lui-même des étapes de recherche et des outils
Module 4 Évaluation et assurance qualité
  • Constituer et entretenir des jeux de test à partir de vraies questions
  • Métriques de recherche comme le rappel et la précision, métriques de réponse comme la fidélité
  • Utiliser et calibrer à bon escient un LLM-as-a-judge
  • Tests de non-régression lors de changements de chunking, de modèle ou de prompt

Jour 2

Module 5 Exploitation, coûts et protection des données
  • Prompt caching, traitement par lots et choix du modèle pour réduire les coûts
  • Optimiser la latence et diffuser les réponses en streaming
  • Droits au niveau des documents, cloisonnement des clients et protection contre l’injection de prompt
  • Protection des données : localisation, sous-traitance, politique de suppression, RGPD et AI Act européen
Module 6 Atelier pratique : AI engineering & applications LLM
  • Construire des pipelines RAG
  • Automatiser l’évaluation
  • Développer agents et outils
  • Fiabiliser les sorties structurées
  • Observabilité et coûts
  • Contrer l’injection de prompt
Module 7 Protection des données, qualité & mise en pratique
  • Les applications LLM traitent souvent des données personnelles et confidentielles : vous apprenez à situer les exigences de l’AI Act européen en matière de transparence et de niveaux de risque, à concevoir des flux conformes au RGPD avec contrats de sous-traitance et politiques d’effacement, à gérer les clés d’API en sécurité et à respecter les licences des modèles et jeux de données.
  • Règles du jeu pour un usage sûr de l’IA en équipe
  • Vérifier les résultats : faits, sources, tests et principe des quatre yeux
  • Plan d’action personnel pour les 30 prochains jours
  • Questions ouvertes, perspectives et ressources pour aller plus loin

Cas pratiques de votre domaine

Construire des pipelines RAG

Implémenter ingestion, découpage, embeddings, recherche vectorielle, recherche hybride et reranking, et générer des réponses sourcées en respectant les droits d’accès des documents d’origine lors de la récupération.

Automatiser l’évaluation

Créer des jeux de test avec réponses attendues, définir des métriques de pertinence, de fidélité et de format, calibrer une évaluation LLM-as-a-judge et l’exécuter en CI à chaque changement de prompt ou de modèle.

Développer agents et outils

Concevoir définitions d’outils et serveurs MCP, implémenter des boucles d’agent avec planification, appels d’outils et conditions d’arrêt, et prévoir droits et validation humaine pour les actions lourdes de conséquences.

Fiabiliser les sorties structurées

Définir des schémas JSON pour les réponses du modèle, valider les sorties, mettre en place des stratégies de relance en cas d’erreur et rendre robustes les tâches d’extraction comme les données de factures ou de contrats.

Observabilité et coûts

Collecter traces, consommation de tokens, latences et taux d’erreur, analyser les conversations problématiques et réduire les coûts grâce au cache, au routage entre modèles et à la réduction du contexte.

Contrer l’injection de prompt

Tester des scénarios d’attaque via documents, pages web ou résultats d’outils manipulés, filtrer entrées et sorties, restreindre les droits des agents et intégrer durablement des tests de red teaming au pipeline.

Projets pratiques possibles

Assistant documentaire sourcé

Un chat RAG sur des documents internes, avec citations, boutons de retour et page d’évaluation qui suit la qualité des réponses sur un jeu de questions.

Banc d’évaluation

Un outil en ligne de commande qui exécute des variantes de prompts sur un jeu de test, note les résultats et met clairement en évidence les écarts entre versions.

Extracteur de documents

Un service qui reçoit des PDF, en extrait des données structurées selon un schéma JSON, les valide et signale les cas incertains pour vérification manuelle.

Prérequis

De solides compétences en Python (ou à défaut en TypeScript), des bases en bases de données et API REST ainsi qu’une première expérience des API de LLM. Vous avez de solides compétences en programmation, idéalement en Python ou TypeScript, et l’habitude des API ; une première expérience des API de LLM est utile sans être indispensable.

Prérequis techniques

Un ordinateur portable avec Python, Git, Docker et un éditeur de code, ainsi qu’un accès API à au moins un fournisseur de LLM et d’embeddings. Des identifiants pour les exercices peuvent être fournis si nécessaire.

Protection des données & conformité

Les applications LLM traitent souvent des données personnelles et confidentielles : vous apprenez à situer les exigences de l’AI Act européen en matière de transparence et de niveaux de risque, à concevoir des flux conformes au RGPD avec contrats de sous-traitance et politiques d’effacement, à gérer les clés d’API en sécurité et à respecter les licences des modèles et jeux de données.

Dates proposées

Toutes les dates sont indicatives – votre date souhaitée est toujours possible.

  • lun. 23 novembre 2026 – mar. 24 novembre 2026 En ligne Demander
  • mer. 2 décembre 2026 – jeu. 3 décembre 2026 Augsbourg Demander
  • mer. 16 décembre 2026 – jeu. 17 décembre 2026 En ligne Demander
  • jeu. 14 janvier 2027 – ven. 15 janvier 2027 Kaiserslautern Demander
  • jeu. 21 janvier 2027 – ven. 22 janvier 2027 En ligne Demander
  • jeu. 28 janvier 2027 – ven. 29 janvier 2027 Brême Demander

Questions fréquentes

Quand privilégier le RAG plutôt que le fine-tuning ?

Le RAG s’impose lorsqu’un modèle doit s’appuyer sur des connaissances récentes, volumineuses ou changeantes, et citer ses sources. Le fine-tuning agit plutôt sur le style, le format ou un comportement spécialisé. Dans beaucoup de projets, le RAG est la voie la plus rapide, la moins coûteuse et la plus maîtrisable, parfois complétée par un fine-tuning ciblé.

Quelle base de données vectorielle choisir ?

Cela dépend du volume de données, de l’infrastructure existante, des besoins de filtrage et du mode d’exploitation. Si vous utilisez déjà PostgreSQL, pgvector vous mènera souvent loin ; les solutions spécialisées se distinguent sur les gros volumes et la recherche hybride. Vous comparez plusieurs options en pratique pour définir vos critères de choix.

Comment exploiter un RAG en conformité avec le RGPD ?

Il faut choisir des fournisseurs offrant une localisation des données adaptée et un contrat de sous-traitance, contrôler les droits au niveau des documents, prévoir une politique de suppression pour l’index et les journaux et minimiser les données personnelles. Pour les données très sensibles, des modèles auto-hébergés sont envisageables. Nous examinons ces options sur des architectures réalistes.

Qu’est-ce qui distingue l’AI engineering du machine learning classique ?

En machine learning classique, vous entraînez vos propres modèles sur vos propres données. En AI engineering, vous exploitez le plus souvent des modèles de langage préentraînés via API ou hébergés en interne, et vous vous concentrez sur le contexte, la recherche documentaire, les outils, l’évaluation et l’exploitation. Les compétences en génie logiciel priment alors sur la statistique. C’est précisément l’angle de cette formation.

Comment savoir si notre application LLM est suffisamment bonne ?

Grâce à un jeu d’évaluation composé de questions réalistes et de résultats attendus, à une combinaison de contrôles à base de règles, d’évaluation LLM-as-a-judge et de vérifications humaines par échantillon, ainsi qu’à un suivi en production. L’essentiel est d’exécuter ces évaluations automatiquement à chaque modification. Vous mettez en place un tel dispositif pendant la formation.

Combien coûte la formation « RAG & applications LLM pour les AI engineers » ?

La formation coûte 949 € HT forfaitaires par participant – en ligne comme en présentiel. Sont inclus 2 jour(s) de formation avec un formateur en direct, les supports de cours, un environnement d’exercice et une attestation de participation.

Puis-je proposer ma propre date ?

Oui. Nos dates sont indicatives. Dans le formulaire, vous pouvez à tout moment indiquer librement la date ou la période souhaitée – nous vérifions les disponibilités et confirmons sous un jour ouvré.

La formation a-t-elle lieu en ligne ou en présentiel ?

Les deux sont possibles : en direct dans une classe virtuelle ou en présentiel à Munich, Salzbourg, Berlin, Augsbourg, Hanovre, Brême, Stuttgart ou Kaiserslautern. Nous pouvons aussi l’organiser en intra pour votre équipe.

Autres formations pour les AI engineers

Autres formations RAG & applications LLM

Les 29 formations RAG & applications LLM

RAG & applications LLM · MunichRAG & applications LLM · SalzbourgRAG & applications LLM · BerlinRAG & applications LLM · AugsbourgRAG & applications LLM · HanovreRAG & applications LLM · BrêmeRAG & applications LLM · StuttgartRAG & applications LLM · KaiserslauternRAG & applications LLM · En ligne