Schulung – RAG & LLM-Apps – Kubernetes & Microservices

RAG & LLM-Apps für Kubernetes- und Microservice-Teams

RAG und LLM-Anwendungen entwickeln: Embeddings, Vektordatenbanken, Chunking, Retrieval, Evaluierung, Kosten und Datenschutz.

Dauer
6 Stunden, ein Termin
Format
Online oder vor Ort
Sprache
Deutsch oder Englisch
Teilnehmende
offene Termine oder exklusiv für Ihr Team
Abschluss
Teilnahmebescheinigung

Überblick

In diesem Kurs verbinden wir RAG & LLM-Apps mit den typischen Abläufen im Bereich Kubernetes & Microservices. Die Teilnehmenden arbeiten an realistischen Szenarien und nehmen sofort einsetzbare Prompts, Workflows und Checklisten mit.

Retrieval-Augmented Generation verbindet Sprachmodelle mit Ihrem eigenen Wissen: Handbücher, Verträge, Tickets, Wikis oder Produktdaten werden durchsuchbar gemacht und dem Modell zur Laufzeit als Kontext übergeben. So entstehen Assistenten, die fundiert mit Quellenangaben antworten, statt zu halluzinieren. In dieser kompakten Schulung bauen Sie eine vollständige RAG-Pipeline von der Dokumentaufbereitung über Embeddings und Vektordatenbank bis zur Antwortgenerierung und lernen anhand eigener Testdokumente, an welchen Stellschrauben die Qualität der Antworten tatsächlich entschieden wird.

Der zweite Tag führt vom Prototyp zur belastbaren Anwendung. Sie vergleichen Chunking-Strategien, kombinieren semantische und lexikalische Suche, setzen Reranking, Metadatenfilter und Query-Umformulierung ein und messen die Wirkung mit systematischen Evaluierungen. Hinzu kommen Prompt-Caching, Kostensteuerung, Latenzoptimierung, Berechtigungskonzepte auf Dokumentebene und datenschutzkonformer Betrieb mit Blick auf DSGVO und EU AI Act. Am Ende wissen Sie, wann klassisches RAG genügt, wann ein großes Kontextfenster oder ein agentisches Retrieval besser passt und wie Sie Ihre Architektur begründet auswählen.

Kubernetes ist zur Standardplattform für Microservices geworden – und mit ihr eine Flut an YAML-Manifesten, Helm-Charts, Kustomize-Overlays, Operatoren, Service-Mesh-Konfigurationen und GitOps-Repositories. Hinzu kommen verteilte Fehlerbilder, die sich über Dutzende Services erstrecken. KI-Coding-Assistenten und Agenten nehmen hier viel Komplexität heraus: Sie erzeugen Helm-Charts mit sinnvollen Defaults, diagnostizieren CrashLoopBackOff- und OOMKilled-Fehler aus Events und Logs, schreiben NetworkPolicies und RBAC-Regeln nach dem Least-Privilege-Prinzip und helfen beim Schnitt von Service-Grenzen. Gleichzeitig gilt: Ein Agent mit Cluster-Zugriff braucht klare Grenzen. Im Kurs lernen Sie, KI für Manifeste, Troubleshooting und Architekturarbeit einzusetzen, ohne die Kontrolle über Ihre Cluster abzugeben.

Das Training findet live statt – wahlweise online im virtuellen Klassenraum oder vor Ort in unseren Trainingsräumen in München, Salzburg, Berlin, Augsburg, Hannover, Bremen, Stuttgart und Kaiserslautern. Auf Wunsch kommen wir auch exklusiv für Ihr Team zusammen.

Für wen ist das Training?

  • Plattform-Engineers und Kubernetes-Administrator:innen
  • Entwickler:innen, die Microservices auf Kubernetes betreiben
  • Site Reliability Engineers mit Cluster-Verantwortung
  • Software-Architekt:innen für verteilte Systeme
  • DevOps-Teams, die GitOps einführen oder ausbauen

Typische Herausforderungen, die wir adressieren

  • Unübersichtliche Mengen an YAML, Helm-Werten und Overlays über viele Umgebungen
  • Schwierige Fehlersuche bei verteilten Problemen zwischen Services, Netzwerk und Ressourcenlimits
  • Sicherheitslücken durch zu weit gefasste RBAC-Rechte, fehlende NetworkPolicies und privilegierte Container
  • Unklare Service-Grenzen und enge Kopplung in wachsenden Microservice-Landschaften

Das können Sie nach dem Training

  • Sie bauen eine vollständige RAG-Pipeline von der Dokumentaufbereitung bis zur Antwort mit Quellenangaben.
  • Sie wählen Embedding-Modell, Chunking-Strategie und Vektordatenbank begründet aus.
  • Sie verbessern die Trefferqualität mit hybrider Suche, Reranking und Metadatenfiltern.
  • Sie messen die Qualität Ihrer Anwendung mit systematischen Evaluierungen und erkennen Regressionen.
  • Sie erstellen und prüfen Helm-Charts, Overlays und Policies effizient mit KI-Agenten.
  • Sie diagnostizieren Fehler in Clustern und Microservices schneller mit strukturierter KI-Unterstützung.
  • Sie begrenzen Cluster-Zugriffe von Agenten und verankern Sicherheits- und Architekturregeln verbindlich.

Inhalte & Ablauf

Modul 1 Grundlagen von RAG und LLM-Anwendungen
  • Architektur einer RAG-Pipeline: Ingestion, Indexierung, Retrieval, Generierung
  • Embeddings verstehen: semantische Ähnlichkeit, Dimensionen, Modellauswahl
  • RAG, Fine-Tuning und lange Kontextfenster sinnvoll gegeneinander abwägen
  • Strukturierte Ausgaben, Quellenangaben und Umgang mit Halluzinationen
Modul 2 Dokumentaufbereitung und Chunking
  • PDF, Office-Dokumente, HTML und Tabellen zuverlässig extrahieren
  • Chunking-Strategien: feste Größe, strukturbasiert, semantisch, mit Überlappung
  • Metadaten anreichern und kontextuelle Zusammenfassungen pro Chunk erzeugen
  • Inkrementelle Aktualisierung und Löschung von Dokumenten im Index
Modul 3 Vektordatenbanken und Retrieval-Strategien
  • Vektordatenbanken und -erweiterungen im Vergleich, etwa pgvector, Qdrant, Weaviate oder OpenSearch
  • Hybride Suche aus Vektor- und Volltextsuche mit BM25
  • Reranking, Metadatenfilter und Query-Umformulierung
  • Agentisches Retrieval: das Modell entscheidet selbst über Suchschritte und Werkzeuge
Modul 4 Evaluierung und Qualitätssicherung
  • Testdatensätze aus echten Fragen aufbauen und pflegen
  • Retrieval-Metriken wie Recall und Precision sowie Antwortmetriken wie Faithfulness
  • LLM-as-a-Judge sinnvoll einsetzen und kalibrieren
  • Regressionstests bei Änderungen an Chunking, Modell oder Prompt
Modul 5 Betrieb, Kosten und Datenschutz
  • Prompt-Caching, Batch-Verarbeitung und Modellwahl zur Kostensenkung
  • Latenz optimieren und Antworten streamen
  • Berechtigungen auf Dokumentebene, Mandantentrennung und Schutz vor Prompt Injection
  • Datenschutz: Datenresidenz, Auftragsverarbeitung, Löschkonzepte, DSGVO und EU AI Act
Modul 6 Praxislabor: Kubernetes & Microservices
  • Helm-Charts und Kustomize erstellen
  • Pods und Deployments debuggen
  • RBAC und NetworkPolicies
  • Microservice-Schnitt und Kommunikation
  • Observability einrichten
  • GitOps-Repositories pflegen
Modul 7 Datenschutz, Qualität & Transfer in den Alltag
  • Kubeconfigs, Service-Account-Tokens und Secrets dürfen nie in Prompts landen; Agenten sollten nur mit lesenden oder eng begrenzten Rechten in Nicht-Produktionsclustern arbeiten. Prüfen Sie Container-Images und Charts auf Herkunft, Signaturen und Schwachstellen und berücksichtigen Sie die Anforderungen von NIS2 und Cyber Resilience Act an Lieferkettensicherheit und SBOMs.
  • Spielregeln für den sicheren KI-Einsatz im Team
  • Ergebnisse prüfen: Fakten, Quellen, Tests und Vier-Augen-Prinzip
  • Persönlicher Umsetzungsplan für die nächsten 30 Tage
  • Offene Fragen, Ausblick und Ressourcen zum Weiterlernen

Praxisszenarien aus Ihrem Bereich

Helm-Charts und Kustomize erstellen

Der Agent erzeugt Helm-Charts oder Kustomize-Overlays mit Probes, Ressourcenanforderungen, Pod Disruption Budgets und Security Contexts, validiert sie mit helm lint und kubeconform und dokumentiert alle Werte.

Pods und Deployments debuggen

Aus kubectl-Ausgaben, Events und Container-Logs grenzt die KI Ursachen für CrashLoopBackOff, OOMKilled, ImagePullBackOff oder fehlschlagende Readiness-Probes ein und schlägt konkrete Korrekturen vor. Das Team prüft die Vorschläge vor der Umsetzung.

RBAC und NetworkPolicies

Die KI analysiert bestehende Rollen und Kommunikationsbeziehungen, formuliert RBAC-Regeln nach dem Least-Privilege-Prinzip und erstellt NetworkPolicies, die nur notwendigen Verkehr zwischen Services zulassen. Änderungen werden vorab in einem Testcluster geprüft.

Microservice-Schnitt und Kommunikation

Der Assistent hilft, Service-Grenzen entlang fachlicher Domänen zu definieren, synchrone und asynchrone Kommunikation abzuwägen und Muster wie Outbox, Circuit Breaker oder Saga sauber umzusetzen. Die Entscheidung bleibt beim Team.

Observability einrichten

Für Services entstehen OpenTelemetry-Instrumentierung, Prometheus-Metriken, ServiceMonitors und Alert-Regeln sowie Dashboards, die Latenz, Fehlerrate und Sättigung sichtbar machen. Alerts werden an Service Level Objectives ausgerichtet, damit nur relevante Störungen eskalieren.

GitOps-Repositories pflegen

Die KI strukturiert Repositories für Argo CD oder Flux, trennt Umgebungen sauber, automatisiert Image-Updates und erklärt Sync-Fehler anhand von Status und Diffs. Drift zwischen Repository und Cluster wird sichtbar.

Mögliche Praxisprojekte im Kurs

Manifest-Linter mit Regelwerk

Ein Tool, das Kubernetes-Manifeste auf fehlende Limits, Probes, Labels und unsichere Einstellungen prüft und einen Bericht für Pull Requests erzeugt.

Microservice-Demo mit Tracing

Zwei bis drei kleine Services mit OpenTelemetry, deployt per Helm in einen lokalen Cluster, inklusive Dashboard für verteilte Traces. Ideal, um verteilte Fehlersuche mit KI zu üben.

Cluster-Hygiene-Bericht

Ein CLI, das ungenutzte ConfigMaps, verwaiste PersistentVolumes und Deployments ohne Ressourcenangaben findet und Aufräumvorschläge macht. Gelöscht wird erst nach menschlicher Prüfung und Freigabe.

Voraussetzungen

Solide Programmierkenntnisse in Python (oder alternativ TypeScript), Grundkenntnisse in Datenbanken und REST-APIs sowie erste Erfahrungen mit LLM-APIs. Praktische Erfahrung mit Containern, kubectl und Kubernetes-Grundobjekten sowie Grundkenntnisse in Helm, YAML und Git.

Technische Voraussetzungen

Laptop mit Python, Git, Docker und Code-Editor sowie API-Zugang zu mindestens einem LLM- und Embedding-Anbieter. Zugangsdaten für die Übungen können bei Bedarf gestellt werden.

Datenschutz & Compliance

Kubeconfigs, Service-Account-Tokens und Secrets dürfen nie in Prompts landen; Agenten sollten nur mit lesenden oder eng begrenzten Rechten in Nicht-Produktionsclustern arbeiten. Prüfen Sie Container-Images und Charts auf Herkunft, Signaturen und Schwachstellen und berücksichtigen Sie die Anforderungen von NIS2 und Cyber Resilience Act an Lieferkettensicherheit und SBOMs.

Termine & Standorte

Pro Standort schlagen wir Ihnen einen Termin in rund vier Wochen vor. Ihr Wunschtermin ist jederzeit möglich.

  • München Di, 15. Dezember 2026 6 Std. Anfragen
  • Salzburg Do, 10. Dezember 2026 6 Std. Anfragen
  • Berlin Fr, 11. Dezember 2026 6 Std. Anfragen
  • Augsburg Di, 15. Dezember 2026 6 Std. Anfragen
  • Hannover Do, 10. Dezember 2026 6 Std. Anfragen
  • Bremen Do, 10. Dezember 2026 6 Std. Anfragen
  • Stuttgart Mi, 16. Dezember 2026 6 Std. Anfragen
  • Kaiserslautern Di, 15. Dezember 2026 6 Std. Anfragen
  • Online Do, 10. Dezember 2026 6 Std. Anfragen

Häufige Fragen

Wann ist RAG besser als Fine-Tuning?

RAG eignet sich, wenn ein Modell auf aktuelles, umfangreiches oder häufig wechselndes Wissen zugreifen und Quellen angeben soll. Fine-Tuning verändert eher Stil, Format oder spezialisiertes Verhalten. In vielen Projekten ist RAG der schnellere, günstigere und besser kontrollierbare Weg, gelegentlich ergänzt durch Fine-Tuning für Spezialaufgaben.

Welche Vektordatenbank sollten wir verwenden?

Das hängt von Datenmenge, bestehender Infrastruktur, Filteranforderungen und Betriebsmodell ab. Wer bereits PostgreSQL nutzt, kommt mit pgvector oft weit, spezialisierte Systeme punkten bei großen Datenmengen und hybrider Suche. Im Kurs vergleichen Sie mehrere Optionen praktisch und leiten Kriterien für Ihre Entscheidung ab.

Wie lässt sich RAG datenschutzkonform betreiben?

Wichtig sind die Wahl von Anbietern mit passender Datenresidenz und Auftragsverarbeitungsvertrag, Berechtigungsprüfungen auf Dokumentebene, ein Löschkonzept für Index und Logs sowie Datenminimierung bei personenbezogenen Inhalten. Für sensible Daten kommen auch selbst betriebene Modelle infrage. Wir behandeln diese Optionen anhand realistischer Architekturen.

Sollte ein KI-Agent direkten Zugriff auf meinen Cluster haben?

Nur kontrolliert. Für Analyse und Troubleshooting genügen meist lesende Rechte in ausgewählten Namespaces, Änderungen sollten über GitOps-Repositories und Reviews laufen. Im Kurs richten Sie dafür eigene Service Accounts, lokale Testcluster und Freigabeprozesse ein, sodass der Agent nützlich ist, ohne Produktionsrisiken zu erzeugen.

Hilft der Kurs auch bei Architekturfragen zu Microservices?

Ja. Neben Manifesten und Betrieb behandeln wir, wie KI beim Schnitt von Service-Grenzen, beim Abwägen von Kommunikationsmustern und beim Bewerten von Architekturvarianten unterstützen kann. Die KI liefert dabei Optionen und Argumente, die Entscheidung bleibt beim Team und wird nachvollziehbar dokumentiert.

Was kostet die Schulung „RAG & LLM-Apps für Kubernetes- und Microservice-Teams“?

Die Schulung kostet pauschal 949 € zzgl. gesetzl. MwSt. pro Teilnehmer:in – unabhängig davon, ob sie online oder vor Ort stattfindet. Enthalten sind 6 Stunden Live-Training mit Trainer:in, Kursunterlagen, Übungsumgebung und Teilnahmebescheinigung.

Kann ich einen eigenen Wunschtermin angeben?

Ja. Für jeden Standort schlagen wir Ihnen einen Termin in rund vier Wochen vor. Im Anfrageformular können Sie aber jederzeit einen Wunschtermin oder Zeitraum im Freitext angeben – wir prüfen die Verfügbarkeit und melden uns innerhalb eines Werktags.

Findet der Kurs online oder vor Ort statt?

Beides ist möglich: live online im virtuellen Klassenraum oder vor Ort in München, Salzburg, Berlin, Augsburg, Hannover, Bremen, Stuttgart und Kaiserslautern. Auf Wunsch führen wir das Training auch exklusiv für Ihr Team durch.

Kann der Kurs auf unser Team zugeschnitten werden?

Ja. Maßgeschneiderte Kurse kosten ca. 4.500 € mehr, je nach Thema und nach Absprache. Wir stimmen Inhalte, Beispiele und Übungen vorab mit Ihnen ab.

Weitere Kurse für Kubernetes- und Microservice-Teams

Weitere Kurse zu RAG & LLM-Apps

Alle 29 Kurse zu RAG & LLM-Apps

RAG & LLM-Apps – MünchenRAG & LLM-Apps – SalzburgRAG & LLM-Apps – BerlinRAG & LLM-Apps – AugsburgRAG & LLM-Apps – HannoverRAG & LLM-Apps – BremenRAG & LLM-Apps – StuttgartRAG & LLM-Apps – KaiserslauternRAG & LLM-Apps – Online