Formation · RAG & applications LLM · Kubernetes & microservices

RAG & applications LLM pour les équipes Kubernetes et microservices

Développer des applications RAG et LLM : embeddings, bases vectorielles, chunking, retrieval, évaluation, coûts et protection des données.

Durée
2 jours (14 h)
Format
En ligne ou en présentiel
Langue
Allemand ou anglais
Participants
sessions ouvertes ou intra-entreprise
Attestation
Attestation de participation

Présentation

Cette formation associe RAG & applications LLM aux processus quotidiens du domaine Kubernetes & microservices. Les participants travaillent sur des scénarios réalistes et repartent avec des prompts, des workflows et des checklists immédiatement utilisables.

La génération augmentée par récupération, ou RAG, relie les modèles de langage à vos propres connaissances : manuels, contrats, tickets, wikis ou données produits deviennent interrogeables et sont fournis au modèle comme contexte au moment de la requête. Vous obtenez des assistants qui répondent sur des bases solides, sources à l’appui, au lieu d’halluciner. Pendant ces deux jours, vous construisez un pipeline RAG complet, de la préparation des documents à la génération des réponses en passant par les embeddings et la base vectorielle, et identifiez les leviers qui font réellement la qualité.

Le second jour mène du prototype à une application robuste. Vous comparez les stratégies de chunking, combinez recherche sémantique et lexicale, appliquez reranking, filtres de métadonnées et reformulation des requêtes, puis mesurez leur effet grâce à des évaluations systématiques. Sont également abordés le prompt caching, la maîtrise des coûts, l’optimisation de la latence, les droits d’accès au niveau des documents et une exploitation conforme au RGPD et à l’AI Act européen. Vous saurez quand un RAG classique suffit, quand une grande fenêtre de contexte ou un retrieval agentique convient mieux, et comment justifier vos choix d’architecture.

Kubernetes s’est imposé comme la plateforme de référence des microservices, avec son lot de manifestes YAML, charts Helm, overlays Kustomize, opérateurs, configurations de service mesh et dépôts GitOps. S’y ajoutent des pannes distribuées qui traversent des dizaines de services. Les assistants et agents de codage IA allègent fortement cette complexité : ils génèrent des charts Helm aux valeurs par défaut pertinentes, diagnostiquent les erreurs CrashLoopBackOff et OOMKilled à partir des événements et des logs, rédigent NetworkPolicies et règles RBAC selon le principe du moindre privilège et aident à délimiter les services. Mais un agent disposant d’un accès au cluster doit être strictement encadré. Vous apprendrez à utiliser l’IA pour les manifestes, le dépannage et l’architecture sans perdre la maîtrise de vos clusters.

La formation se déroule en direct – en ligne dans une classe virtuelle ou en présentiel dans nos salles à Munich, Salzbourg, Berlin, Augsbourg, Hanovre, Brême, Stuttgart et Kaiserslautern. Nous pouvons également l’organiser en intra pour votre équipe.

À qui s’adresse cette formation ?

  • Ingénieurs plateforme et administrateurs Kubernetes
  • Développeurs exploitant des microservices sur Kubernetes
  • Ingénieurs SRE responsables de clusters
  • Architectes logiciels de systèmes distribués
  • Équipes DevOps qui déploient ou étendent GitOps

Les défis concrets que nous traitons

  • Une masse difficilement lisible de YAML, de valeurs Helm et d’overlays répartis sur de nombreux environnements
  • Un dépannage ardu de problèmes distribués mêlant services, réseau et limites de ressources
  • Des failles dues à des droits RBAC trop larges, à l’absence de NetworkPolicies et à des conteneurs privilégiés
  • Des frontières de services floues et un couplage fort dans des architectures en croissance

Objectifs pédagogiques

  • Vous construisez un pipeline RAG complet, de la préparation des documents aux réponses sourcées.
  • Vous choisissez de façon argumentée modèle d’embeddings, stratégie de chunking et base vectorielle.
  • Vous améliorez la pertinence des résultats grâce à la recherche hybride, au reranking et aux filtres de métadonnées.
  • Vous mesurez la qualité de votre application par des évaluations systématiques et détectez les régressions.
  • Créer et contrôler efficacement charts Helm, overlays et politiques avec des agents IA.
  • Diagnostiquer plus vite les problèmes de clusters et de microservices grâce à une assistance IA structurée.
  • Restreindre l’accès des agents aux clusters et imposer durablement les règles de sécurité et d’architecture.

Programme

Jour 1

Module 1 Fondamentaux du RAG et des applications LLM
  • Anatomie d’un pipeline RAG : ingestion, indexation, recherche, génération
  • Comprendre les embeddings : similarité sémantique, dimensions, choix du modèle
  • Arbitrer entre RAG, fine-tuning et grandes fenêtres de contexte
  • Sorties structurées, citation des sources et gestion des hallucinations
Module 2 Préparation des documents et chunking
  • Extraire de façon fiable PDF, documents bureautiques, HTML et tableaux
  • Stratégies de chunking : taille fixe, selon la structure, sémantique, avec chevauchement
  • Enrichir les métadonnées et générer des résumés contextuels par chunk
  • Mise à jour incrémentale et suppression de documents dans l’index
Module 3 Bases vectorielles et stratégies de recherche
  • Comparer bases et extensions vectorielles comme pgvector, Qdrant, Weaviate ou OpenSearch
  • Recherche hybride combinant vecteurs et plein texte avec BM25
  • Reranking, filtres de métadonnées et reformulation des requêtes
  • Retrieval agentique : le modèle décide lui-même des étapes de recherche et des outils
Module 4 Évaluation et assurance qualité
  • Constituer et entretenir des jeux de test à partir de vraies questions
  • Métriques de recherche comme le rappel et la précision, métriques de réponse comme la fidélité
  • Utiliser et calibrer à bon escient un LLM-as-a-judge
  • Tests de non-régression lors de changements de chunking, de modèle ou de prompt

Jour 2

Module 5 Exploitation, coûts et protection des données
  • Prompt caching, traitement par lots et choix du modèle pour réduire les coûts
  • Optimiser la latence et diffuser les réponses en streaming
  • Droits au niveau des documents, cloisonnement des clients et protection contre l’injection de prompt
  • Protection des données : localisation, sous-traitance, politique de suppression, RGPD et AI Act européen
Module 6 Atelier pratique : Kubernetes & microservices
  • Créer charts Helm et overlays Kustomize
  • Déboguer pods et déploiements
  • RBAC et NetworkPolicies
  • Découpage et communication des microservices
  • Mettre en place l’observabilité
  • Maintenir les dépôts GitOps
Module 7 Protection des données, qualité & mise en pratique
  • Kubeconfigs, jetons de service accounts et secrets ne doivent jamais figurer dans les prompts, et les agents ne devraient opérer qu’avec des droits en lecture ou très restreints sur des clusters hors production. Vérifiez provenance, signatures et vulnérabilités des images et des charts, et tenez compte des exigences de NIS2 et du Cyber Resilience Act sur la chaîne d’approvisionnement et les SBOM.
  • Règles du jeu pour un usage sûr de l’IA en équipe
  • Vérifier les résultats : faits, sources, tests et principe des quatre yeux
  • Plan d’action personnel pour les 30 prochains jours
  • Questions ouvertes, perspectives et ressources pour aller plus loin

Cas pratiques de votre domaine

Créer charts Helm et overlays Kustomize

L’agent génère charts Helm ou overlays Kustomize avec probes, requests de ressources, pod disruption budgets et security contexts, les valide avec helm lint et kubeconform et documente chaque valeur.

Déboguer pods et déploiements

À partir des sorties kubectl, des événements et des logs de conteneurs, l’IA circonscrit les causes de CrashLoopBackOff, OOMKilled, ImagePullBackOff ou de readiness probes en échec et propose des corrections concrètes.

RBAC et NetworkPolicies

L’IA analyse les rôles et flux existants, formule des règles RBAC selon le moindre privilège et crée des NetworkPolicies n’autorisant que le trafic réellement nécessaire entre services.

Découpage et communication des microservices

L’assistant aide à définir les frontières de services selon les domaines métier, à arbitrer entre communication synchrone et asynchrone et à mettre en œuvre proprement des patterns comme outbox, circuit breaker ou saga.

Mettre en place l’observabilité

Les services reçoivent instrumentation OpenTelemetry, métriques Prometheus, ServiceMonitors et règles d’alerte, ainsi que des tableaux de bord rendant visibles latence, taux d’erreur et saturation. Les alertes s’alignent sur les objectifs de niveau de service.

Maintenir les dépôts GitOps

L’IA structure les dépôts pour Argo CD ou Flux, sépare proprement les environnements, automatise la mise à jour des images et explique les erreurs de synchronisation à l’aide des statuts et des diffs.

Projets pratiques possibles

Linter de manifestes avec règles

Un outil qui contrôle les manifestes Kubernetes – limites, probes, labels manquants, réglages risqués – et produit un rapport pour les pull requests.

Démo microservices avec tracing

Deux ou trois petits services instrumentés avec OpenTelemetry, déployés via Helm sur un cluster local, avec un tableau de bord de traces distribuées.

Rapport d’hygiène du cluster

Une CLI qui repère les ConfigMaps inutilisées, les PersistentVolumes orphelins et les déploiements sans ressources déclarées, puis suggère des actions de nettoyage.

Prérequis

De solides compétences en Python (ou à défaut en TypeScript), des bases en bases de données et API REST ainsi qu’une première expérience des API de LLM. Une pratique des conteneurs, de kubectl et des objets Kubernetes de base, ainsi que des notions de Helm, de YAML et de Git.

Prérequis techniques

Un ordinateur portable avec Python, Git, Docker et un éditeur de code, ainsi qu’un accès API à au moins un fournisseur de LLM et d’embeddings. Des identifiants pour les exercices peuvent être fournis si nécessaire.

Protection des données & conformité

Kubeconfigs, jetons de service accounts et secrets ne doivent jamais figurer dans les prompts, et les agents ne devraient opérer qu’avec des droits en lecture ou très restreints sur des clusters hors production. Vérifiez provenance, signatures et vulnérabilités des images et des charts, et tenez compte des exigences de NIS2 et du Cyber Resilience Act sur la chaîne d’approvisionnement et les SBOM.

Dates proposées

Toutes les dates sont indicatives – votre date souhaitée est toujours possible.

  • mer. 25 novembre 2026 – jeu. 26 novembre 2026 En ligne Demander
  • jeu. 10 décembre 2026 – ven. 11 décembre 2026 Salzbourg Demander
  • lun. 14 décembre 2026 – mar. 15 décembre 2026 En ligne Demander
  • jeu. 7 janvier 2027 – ven. 8 janvier 2027 En ligne Demander
  • jeu. 21 janvier 2027 – ven. 22 janvier 2027 Brême Demander
  • lun. 25 janvier 2027 – mar. 26 janvier 2027 En ligne Demander

Questions fréquentes

Quand privilégier le RAG plutôt que le fine-tuning ?

Le RAG s’impose lorsqu’un modèle doit s’appuyer sur des connaissances récentes, volumineuses ou changeantes, et citer ses sources. Le fine-tuning agit plutôt sur le style, le format ou un comportement spécialisé. Dans beaucoup de projets, le RAG est la voie la plus rapide, la moins coûteuse et la plus maîtrisable, parfois complétée par un fine-tuning ciblé.

Quelle base de données vectorielle choisir ?

Cela dépend du volume de données, de l’infrastructure existante, des besoins de filtrage et du mode d’exploitation. Si vous utilisez déjà PostgreSQL, pgvector vous mènera souvent loin ; les solutions spécialisées se distinguent sur les gros volumes et la recherche hybride. Vous comparez plusieurs options en pratique pour définir vos critères de choix.

Comment exploiter un RAG en conformité avec le RGPD ?

Il faut choisir des fournisseurs offrant une localisation des données adaptée et un contrat de sous-traitance, contrôler les droits au niveau des documents, prévoir une politique de suppression pour l’index et les journaux et minimiser les données personnelles. Pour les données très sensibles, des modèles auto-hébergés sont envisageables. Nous examinons ces options sur des architectures réalistes.

Un agent IA doit-il avoir un accès direct à mon cluster ?

Seulement de manière encadrée. Pour l’analyse et le dépannage, des droits en lecture sur quelques namespaces suffisent généralement ; les modifications passent par les dépôts GitOps et les revues. Pendant la formation, vous mettez en place des service accounts dédiés, des clusters de test locaux et des circuits de validation pour que l’agent soit utile sans exposer la production.

La formation aborde-t-elle aussi l’architecture microservices ?

Oui. Au-delà des manifestes et de l’exploitation, nous voyons comment l’IA peut aider à délimiter les services, à comparer les modes de communication et à évaluer des variantes d’architecture. L’IA apporte des options et des arguments ; la décision revient à l’équipe et fait l’objet d’une documentation claire.

Combien coûte la formation « RAG & applications LLM pour les équipes Kubernetes et microservices » ?

La formation coûte 949 € HT forfaitaires par participant – en ligne comme en présentiel. Sont inclus 2 jour(s) de formation avec un formateur en direct, les supports de cours, un environnement d’exercice et une attestation de participation.

Puis-je proposer ma propre date ?

Oui. Nos dates sont indicatives. Dans le formulaire, vous pouvez à tout moment indiquer librement la date ou la période souhaitée – nous vérifions les disponibilités et confirmons sous un jour ouvré.

La formation a-t-elle lieu en ligne ou en présentiel ?

Les deux sont possibles : en direct dans une classe virtuelle ou en présentiel à Munich, Salzbourg, Berlin, Augsbourg, Hanovre, Brême, Stuttgart ou Kaiserslautern. Nous pouvons aussi l’organiser en intra pour votre équipe.

Autres formations pour les équipes Kubernetes et microservices

Autres formations RAG & applications LLM

Les 29 formations RAG & applications LLM

RAG & applications LLM · MunichRAG & applications LLM · SalzbourgRAG & applications LLM · BerlinRAG & applications LLM · AugsbourgRAG & applications LLM · HanovreRAG & applications LLM · BrêmeRAG & applications LLM · StuttgartRAG & applications LLM · KaiserslauternRAG & applications LLM · En ligne