Schulung · RAG & LLM-Apps · DevOps & Cloud

RAG & LLM-Apps für DevOps- und Cloud-Teams

RAG und LLM-Anwendungen entwickeln: Embeddings, Vektordatenbanken, Chunking, Retrieval, Evaluierung, Kosten und Datenschutz.

Dauer
2 Tage (14 Std.)
Format
Online oder vor Ort
Sprache
Deutsch oder Englisch
Teilnehmende
offene Termine oder exklusiv für Ihr Team
Abschluss
Teilnahmebescheinigung

Überblick

In diesem Kurs verbinden wir RAG & LLM-Apps mit den typischen Abläufen im Bereich DevOps & Cloud. Die Teilnehmenden arbeiten an realistischen Szenarien und nehmen sofort einsetzbare Prompts, Workflows und Checklisten mit.

Retrieval-Augmented Generation verbindet Sprachmodelle mit Ihrem eigenen Wissen: Handbücher, Verträge, Tickets, Wikis oder Produktdaten werden durchsuchbar gemacht und dem Modell zur Laufzeit als Kontext übergeben. So entstehen Assistenten, die fundiert mit Quellenangaben antworten, statt zu halluzinieren. In dieser zweitägigen Schulung bauen Sie eine vollständige RAG-Pipeline von der Dokumentaufbereitung über Embeddings und Vektordatenbank bis zur Antwortgenerierung und lernen anhand eigener Testdokumente, an welchen Stellschrauben die Qualität der Antworten tatsächlich entschieden wird.

Der zweite Tag führt vom Prototyp zur belastbaren Anwendung. Sie vergleichen Chunking-Strategien, kombinieren semantische und lexikalische Suche, setzen Reranking, Metadatenfilter und Query-Umformulierung ein und messen die Wirkung mit systematischen Evaluierungen. Hinzu kommen Prompt-Caching, Kostensteuerung, Latenzoptimierung, Berechtigungskonzepte auf Dokumentebene und datenschutzkonformer Betrieb mit Blick auf DSGVO und EU AI Act. Am Ende wissen Sie, wann klassisches RAG genügt, wann ein großes Kontextfenster oder ein agentisches Retrieval besser passt und wie Sie Ihre Architektur begründet auswählen.

DevOps- und Cloud-Teams verantworten Infrastruktur als Code, CI/CD-Pipelines, Monitoring, Kostenkontrolle und Sicherheit – oft über mehrere Cloud-Anbieter und On-Premises-Umgebungen hinweg. Die Arbeit besteht zu großen Teilen aus Konfiguration in HCL, YAML und Shell, aus Fehlersuche in Logs und aus dem Abgleich von Dokumentation. KI-Coding-Assistenten und Agenten beschleunigen genau das: Sie schreiben wiederverwendbare Terraform-Module, reparieren fehlschlagende Pipelines, erstellen Ansible-Rollen, analysieren Incident-Logs und schlagen Kostenoptimierungen vor. Gleichzeitig ist das Risiko hoch, denn ein falscher Befehl kann Produktionsumgebungen treffen. Im Kurs lernen Sie, Agenten mit klaren Berechtigungsgrenzen, Plan-Review-Abläufen und abgesicherten Umgebungen produktiv einzusetzen.

Das Training findet live statt – wahlweise online im virtuellen Klassenraum oder vor Ort in unseren Trainingsräumen in München, Salzburg, Berlin, Augsburg, Hannover, Bremen, Stuttgart und Kaiserslautern. Auf Wunsch kommen wir auch exklusiv für Ihr Team zusammen.

Für wen ist das Training?

  • DevOps-Engineers und Plattform-Teams
  • Cloud-Architekt:innen für AWS, Azure oder Google Cloud
  • Site Reliability Engineers mit Verantwortung für Betrieb und Incidents
  • Systemadministrator:innen auf dem Weg zu Infrastructure as Code
  • Entwickler:innen, die eigene CI/CD-Pipelines betreuen

Typische Herausforderungen, die wir adressieren

  • Wachsende Mengen an Terraform-, YAML- und Pipeline-Konfiguration mit Drift und Duplikaten
  • Zeitaufwändige Fehlersuche in fehlschlagenden Pipelines und verteilten Logs
  • Steigende Cloud-Kosten ohne klare Transparenz
  • Hohe Anforderungen an Sicherheit, Compliance und Nachvollziehbarkeit von Änderungen

Das können Sie nach dem Training

  • Sie bauen eine vollständige RAG-Pipeline von der Dokumentaufbereitung bis zur Antwort mit Quellenangaben.
  • Sie wählen Embedding-Modell, Chunking-Strategie und Vektordatenbank begründet aus.
  • Sie verbessern die Trefferqualität mit hybrider Suche, Reranking und Metadatenfiltern.
  • Sie messen die Qualität Ihrer Anwendung mit systematischen Evaluierungen und erkennen Regressionen.
  • Sie setzen KI-Agenten für Infrastructure as Code, Pipelines und Konfigurationsmanagement sicher ein.
  • Sie analysieren Incidents, Pipeline-Fehler und Cloud-Kosten schneller mit KI-Unterstützung.
  • Sie definieren Berechtigungsgrenzen und Freigabeprozesse, damit Agenten keine unkontrollierten Änderungen an Produktivsystemen vornehmen.

Inhalte & Ablauf

Tag 1

Modul 1 Grundlagen von RAG und LLM-Anwendungen
  • Architektur einer RAG-Pipeline: Ingestion, Indexierung, Retrieval, Generierung
  • Embeddings verstehen: semantische Ähnlichkeit, Dimensionen, Modellauswahl
  • RAG, Fine-Tuning und lange Kontextfenster sinnvoll gegeneinander abwägen
  • Strukturierte Ausgaben, Quellenangaben und Umgang mit Halluzinationen
Modul 2 Dokumentaufbereitung und Chunking
  • PDF, Office-Dokumente, HTML und Tabellen zuverlässig extrahieren
  • Chunking-Strategien: feste Größe, strukturbasiert, semantisch, mit Überlappung
  • Metadaten anreichern und kontextuelle Zusammenfassungen pro Chunk erzeugen
  • Inkrementelle Aktualisierung und Löschung von Dokumenten im Index
Modul 3 Vektordatenbanken und Retrieval-Strategien
  • Vektordatenbanken und -erweiterungen im Vergleich, etwa pgvector, Qdrant, Weaviate oder OpenSearch
  • Hybride Suche aus Vektor- und Volltextsuche mit BM25
  • Reranking, Metadatenfilter und Query-Umformulierung
  • Agentisches Retrieval: das Modell entscheidet selbst über Suchschritte und Werkzeuge
Modul 4 Evaluierung und Qualitätssicherung
  • Testdatensätze aus echten Fragen aufbauen und pflegen
  • Retrieval-Metriken wie Recall und Precision sowie Antwortmetriken wie Faithfulness
  • LLM-as-a-Judge sinnvoll einsetzen und kalibrieren
  • Regressionstests bei Änderungen an Chunking, Modell oder Prompt

Tag 2

Modul 5 Betrieb, Kosten und Datenschutz
  • Prompt-Caching, Batch-Verarbeitung und Modellwahl zur Kostensenkung
  • Latenz optimieren und Antworten streamen
  • Berechtigungen auf Dokumentebene, Mandantentrennung und Schutz vor Prompt Injection
  • Datenschutz: Datenresidenz, Auftragsverarbeitung, Löschkonzepte, DSGVO und EU AI Act
Modul 6 Praxislabor: DevOps & Cloud
  • Terraform-Module entwickeln
  • CI/CD-Pipelines reparieren
  • Ansible und Konfigurationsmanagement
  • Incident-Analyse
  • Cloud-Kosten optimieren
  • Policy as Code und Härtung
Modul 7 Datenschutz, Qualität & Transfer in den Alltag
  • Agenten mit Zugriff auf Cloud-Konten und Pipelines sind ein sicherheitsrelevantes Thema: Arbeiten Sie mit minimalen Berechtigungen, getrennten Umgebungen und menschlicher Freigabe, und halten Sie Cloud-Credentials, State-Dateien und Secrets aus Prompts heraus. Für Betreiber wichtiger und kritischer Dienste gelten die Anforderungen aus NIS2 an Risikomanagement, Lieferkettensicherheit und Nachvollziehbarkeit von Änderungen.
  • Spielregeln für den sicheren KI-Einsatz im Team
  • Ergebnisse prüfen: Fakten, Quellen, Tests und Vier-Augen-Prinzip
  • Persönlicher Umsetzungsplan für die nächsten 30 Tage
  • Offene Fragen, Ausblick und Ressourcen zum Weiterlernen

Praxisszenarien aus Ihrem Bereich

Terraform-Module entwickeln

Der Agent erstellt wiederverwendbare Terraform- oder OpenTofu-Module mit Variablen, Validierungen und Outputs, führt fmt, validate und plan aus und erklärt jede geplante Änderung, bevor ein Mensch das Apply freigibt.

CI/CD-Pipelines reparieren

Fehlgeschlagene GitHub-Actions-, GitLab-CI- oder Azure-DevOps-Läufe werden anhand der Logs analysiert, Ursachen wie Caching-Probleme oder fehlende Berechtigungen benannt und korrigierte Pipeline-Definitionen vorgeschlagen. Wiederkehrende Fehlermuster werden dokumentiert.

Ansible und Konfigurationsmanagement

Die KI schreibt idempotente Ansible-Rollen, Templates und Inventare, ersetzt fragile Shell-Skripte und ergänzt Tests mit Molecule, damit Konfigurationen reproduzierbar bleiben. Bestehende Rollen werden dabei schrittweise vereinheitlicht.

Incident-Analyse

Logs, Metriken und Alerts aus dem Monitoring werden zusammengeführt, eine Zeitleiste rekonstruiert, wahrscheinliche Ursachen eingegrenzt und ein Entwurf für das Postmortem mit Maßnahmen erstellt. Das Team behält die Bewertung.

Cloud-Kosten optimieren

Der Assistent wertet Kostenberichte und Ressourcendefinitionen aus, findet überdimensionierte Instanzen, verwaiste Volumes oder fehlende Lifecycle-Regeln und erstellt passende IaC-Änderungen. Jede Empfehlung enthält eine Abschätzung der Einsparung und des Risikos.

Policy as Code und Härtung

IaC-Code wird mit Scannern wie Checkov oder tfsec geprüft, Befunde behoben und Richtlinien für Verschlüsselung, Tagging oder Netzwerkzugriffe als Policy as Code formuliert. Verstöße blockieren so frühzeitig den Merge.

Mögliche Praxisprojekte im Kurs

Drift-Detektor

Ein Skript, das regelmäßig terraform plan für mehrere Umgebungen ausführt, Abweichungen erkennt und eine Zusammenfassung an einen Chat-Kanal sendet. Der Lauf erfolgt ausschließlich mit Leserechten.

Pipeline-Template-Bibliothek

Wiederverwendbare CI/CD-Vorlagen für Build, Test, Security-Scan und Deployment, dokumentiert und mit Beispielprojekten versehen. Teams binden sie mit wenigen Zeilen ein und profitieren von einheitlichen Qualitäts- und Sicherheitsprüfungen.

Kostenbericht-Tool

Ein CLI, das Kostendaten eines Cloud-Kontos abruft, nach Tags und Teams aufschlüsselt und Optimierungskandidaten verständlich ausweist. Ergebnisse lassen sich als CSV oder Markdown exportieren.

Voraussetzungen

Solide Programmierkenntnisse in Python (oder alternativ TypeScript), Grundkenntnisse in Datenbanken und REST-APIs sowie erste Erfahrungen mit LLM-APIs. Praktische Erfahrung mit Linux, Git, mindestens einer Cloud-Plattform sowie Grundkenntnisse in Terraform, Containern und CI/CD.

Technische Voraussetzungen

Laptop mit Python, Git, Docker und Code-Editor sowie API-Zugang zu mindestens einem LLM- und Embedding-Anbieter. Zugangsdaten für die Übungen können bei Bedarf gestellt werden.

Datenschutz & Compliance

Agenten mit Zugriff auf Cloud-Konten und Pipelines sind ein sicherheitsrelevantes Thema: Arbeiten Sie mit minimalen Berechtigungen, getrennten Umgebungen und menschlicher Freigabe, und halten Sie Cloud-Credentials, State-Dateien und Secrets aus Prompts heraus. Für Betreiber wichtiger und kritischer Dienste gelten die Anforderungen aus NIS2 an Risikomanagement, Lieferkettensicherheit und Nachvollziehbarkeit von Änderungen.

Terminvorschläge

Alle Termine sind Vorschläge – Ihr Wunschtermin ist jederzeit möglich.

  • Di, 24. November 2026 – Mi, 25. November 2026 Online Anfragen
  • Mi, 2. Dezember 2026 – Do, 3. Dezember 2026 Hannover Anfragen
  • Mo, 14. Dezember 2026 – Di, 15. Dezember 2026 Online Anfragen
  • Do, 7. Januar 2027 – Fr, 8. Januar 2027 Online Anfragen
  • Mo, 18. Januar 2027 – Di, 19. Januar 2027 München Anfragen
  • Do, 28. Januar 2027 – Fr, 29. Januar 2027 Online Anfragen

Häufige Fragen

Wann ist RAG besser als Fine-Tuning?

RAG eignet sich, wenn ein Modell auf aktuelles, umfangreiches oder häufig wechselndes Wissen zugreifen und Quellen angeben soll. Fine-Tuning verändert eher Stil, Format oder spezialisiertes Verhalten. In vielen Projekten ist RAG der schnellere, günstigere und besser kontrollierbare Weg, gelegentlich ergänzt durch Fine-Tuning für Spezialaufgaben.

Welche Vektordatenbank sollten wir verwenden?

Das hängt von Datenmenge, bestehender Infrastruktur, Filteranforderungen und Betriebsmodell ab. Wer bereits PostgreSQL nutzt, kommt mit pgvector oft weit, spezialisierte Systeme punkten bei großen Datenmengen und hybrider Suche. Im Kurs vergleichen Sie mehrere Optionen praktisch und leiten Kriterien für Ihre Entscheidung ab.

Wie lässt sich RAG datenschutzkonform betreiben?

Wichtig sind die Wahl von Anbietern mit passender Datenresidenz und Auftragsverarbeitungsvertrag, Berechtigungsprüfungen auf Dokumentebene, ein Löschkonzept für Index und Logs sowie Datenminimierung bei personenbezogenen Inhalten. Für sensible Daten kommen auch selbst betriebene Modelle infrage. Wir behandeln diese Optionen anhand realistischer Architekturen.

Darf ein KI-Agent Änderungen an der Infrastruktur selbst ausführen?

Das sollten Sie bewusst begrenzen. Bewährt hat sich ein Ablauf, in dem der Agent Code schreibt und plan ausführt, ein Mensch das Ergebnis prüft und das Apply über die reguläre Pipeline läuft. Im Kurs lernen Sie, Berechtigungen, Sandbox-Umgebungen und Freigaben so zu gestalten, dass Produktivsysteme geschützt bleiben.

Welche Cloud-Plattform wird im Kurs verwendet?

Die Methoden sind anbieterneutral und lassen sich auf AWS, Azure und Google Cloud übertragen. Für die Übungen nutzen wir Beispiele, die sich mit lokalen Werkzeugen oder Testkonten nachvollziehen lassen. Sie können auf Wunsch Szenarien aus Ihrer eigenen Plattform einbringen, solange keine produktiven Zugangsdaten verwendet werden.

Was kostet die Schulung „RAG & LLM-Apps für DevOps- und Cloud-Teams“?

Die Schulung kostet pauschal 949 € zzgl. gesetzl. MwSt. pro Teilnehmer:in – unabhängig davon, ob sie online oder vor Ort stattfindet. Enthalten sind 2 Trainingstag(e) mit Live-Trainer:in, Kursunterlagen, Übungsumgebung und Teilnahmebescheinigung.

Kann ich einen eigenen Wunschtermin angeben?

Ja. Unsere Terminvorschläge sind eine Orientierung. Im Anfrageformular können Sie jederzeit einen Wunschtermin oder Zeitraum im Freitext angeben – wir prüfen die Verfügbarkeit und bestätigen innerhalb eines Werktags.

Findet der Kurs online oder vor Ort statt?

Beides ist möglich: live online im virtuellen Klassenraum oder vor Ort in München, Salzburg, Berlin, Augsburg, Hannover, Bremen, Stuttgart oder Kaiserslautern. Auf Wunsch führen wir das Training auch exklusiv für Ihr Team durch.

Weitere Kurse für DevOps- und Cloud-Teams

Weitere Kurse zu RAG & LLM-Apps

Alle 29 Kurse zu RAG & LLM-Apps

RAG & LLM-Apps · MünchenRAG & LLM-Apps · SalzburgRAG & LLM-Apps · BerlinRAG & LLM-Apps · AugsburgRAG & LLM-Apps · HannoverRAG & LLM-Apps · BremenRAG & LLM-Apps · StuttgartRAG & LLM-Apps · KaiserslauternRAG & LLM-Apps · Online