Schulung · RAG & LLM-Apps · Security & DevSecOps

RAG & LLM-Apps für Security- und DevSecOps-Teams

RAG und LLM-Anwendungen entwickeln: Embeddings, Vektordatenbanken, Chunking, Retrieval, Evaluierung, Kosten und Datenschutz.

Dauer
2 Tage (14 Std.)
Format
Online oder vor Ort
Sprache
Deutsch oder Englisch
Teilnehmende
offene Termine oder exklusiv für Ihr Team
Abschluss
Teilnahmebescheinigung

Überblick

In diesem Kurs verbinden wir RAG & LLM-Apps mit den typischen Abläufen im Bereich Security & DevSecOps. Die Teilnehmenden arbeiten an realistischen Szenarien und nehmen sofort einsetzbare Prompts, Workflows und Checklisten mit.

Retrieval-Augmented Generation verbindet Sprachmodelle mit Ihrem eigenen Wissen: Handbücher, Verträge, Tickets, Wikis oder Produktdaten werden durchsuchbar gemacht und dem Modell zur Laufzeit als Kontext übergeben. So entstehen Assistenten, die fundiert mit Quellenangaben antworten, statt zu halluzinieren. In dieser zweitägigen Schulung bauen Sie eine vollständige RAG-Pipeline von der Dokumentaufbereitung über Embeddings und Vektordatenbank bis zur Antwortgenerierung und lernen anhand eigener Testdokumente, an welchen Stellschrauben die Qualität der Antworten tatsächlich entschieden wird.

Der zweite Tag führt vom Prototyp zur belastbaren Anwendung. Sie vergleichen Chunking-Strategien, kombinieren semantische und lexikalische Suche, setzen Reranking, Metadatenfilter und Query-Umformulierung ein und messen die Wirkung mit systematischen Evaluierungen. Hinzu kommen Prompt-Caching, Kostensteuerung, Latenzoptimierung, Berechtigungskonzepte auf Dokumentebene und datenschutzkonformer Betrieb mit Blick auf DSGVO und EU AI Act. Am Ende wissen Sie, wann klassisches RAG genügt, wann ein großes Kontextfenster oder ein agentisches Retrieval besser passt und wie Sie Ihre Architektur begründet auswählen.

KI-Coding-Assistenten und Agenten verändern die Anwendungssicherheit von zwei Seiten: Sie beschleunigen Threat Modeling, Code-Reviews und das Schreiben von Detection-Regeln, erzeugen aber gleichzeitig neuen Code in einem Tempo, dem klassische Security-Gates kaum folgen. Security- und DevSecOps-Teams nutzen KI daher, um SAST-Funde zu triagieren, Fixes für Schwachstellen vorzuschlagen, CI/CD-Pipelines mit Prüfschritten zu härten und Infrastructure-as-Code auf Fehlkonfigurationen zu untersuchen. Entscheidend ist ein kontrollierter Rahmen: Agenten mit minimalen Rechten, keine Secrets im Prompt-Kontext, nachvollziehbare Änderungen per Pull Request und menschliche Freigabe für sicherheitskritische Entscheidungen. Im Kurs lernen Sie, KI als Verstärker Ihres Security-Programms einzusetzen und zugleich die neuen Risiken durch generierten Code, Prompt Injection und unsichere Tool-Anbindungen zu beherrschen.

Das Training findet live statt – wahlweise online im virtuellen Klassenraum oder vor Ort in unseren Trainingsräumen in München, Salzburg, Berlin, Augsburg, Hannover, Bremen, Stuttgart und Kaiserslautern. Auf Wunsch kommen wir auch exklusiv für Ihr Team zusammen.

Für wen ist das Training?

  • Application-Security-Engineers und Security Champions in Entwicklungsteams
  • DevSecOps- und Platform-Engineers, die CI/CD-Pipelines verantworten
  • Penetrationstester:innen und Red-Team-Mitglieder
  • SOC-Analyst:innen und Detection Engineers
  • Entwickler:innen mit Verantwortung für sichere Software-Lieferketten

Typische Herausforderungen, die wir adressieren

  • Flut an SAST-, DAST- und SCA-Funden mit hohem Anteil an False Positives
  • Security-Reviews werden zum Engpass, weil Entwicklungsteams mit KI deutlich mehr Code liefern
  • Fehlkonfigurationen in Terraform, Kubernetes-Manifests und Cloud-Policies bleiben unentdeckt
  • Neue Angriffsflächen durch LLM-Integrationen, Prompt Injection und Agenten mit weitreichenden Rechten

Das können Sie nach dem Training

  • Sie bauen eine vollständige RAG-Pipeline von der Dokumentaufbereitung bis zur Antwort mit Quellenangaben.
  • Sie wählen Embedding-Modell, Chunking-Strategie und Vektordatenbank begründet aus.
  • Sie verbessern die Trefferqualität mit hybrider Suche, Reranking und Metadatenfiltern.
  • Sie messen die Qualität Ihrer Anwendung mit systematischen Evaluierungen und erkennen Regressionen.
  • Sie setzen KI-Agenten für Triage, Review und Fix-Erstellung ein, ohne die Kontrolle über sicherheitskritische Änderungen abzugeben.
  • Sie integrieren KI-gestützte Prüfschritte in CI/CD-Pipelines und verknüpfen sie mit bestehenden SAST-, SCA- und IaC-Scannern.
  • Sie bewerten und mitigieren die spezifischen Risiken von KI-generiertem Code, Prompt Injection und Agenten-Tool-Zugriffen.

Inhalte & Ablauf

Tag 1

Modul 1 Grundlagen von RAG und LLM-Anwendungen
  • Architektur einer RAG-Pipeline: Ingestion, Indexierung, Retrieval, Generierung
  • Embeddings verstehen: semantische Ähnlichkeit, Dimensionen, Modellauswahl
  • RAG, Fine-Tuning und lange Kontextfenster sinnvoll gegeneinander abwägen
  • Strukturierte Ausgaben, Quellenangaben und Umgang mit Halluzinationen
Modul 2 Dokumentaufbereitung und Chunking
  • PDF, Office-Dokumente, HTML und Tabellen zuverlässig extrahieren
  • Chunking-Strategien: feste Größe, strukturbasiert, semantisch, mit Überlappung
  • Metadaten anreichern und kontextuelle Zusammenfassungen pro Chunk erzeugen
  • Inkrementelle Aktualisierung und Löschung von Dokumenten im Index
Modul 3 Vektordatenbanken und Retrieval-Strategien
  • Vektordatenbanken und -erweiterungen im Vergleich, etwa pgvector, Qdrant, Weaviate oder OpenSearch
  • Hybride Suche aus Vektor- und Volltextsuche mit BM25
  • Reranking, Metadatenfilter und Query-Umformulierung
  • Agentisches Retrieval: das Modell entscheidet selbst über Suchschritte und Werkzeuge
Modul 4 Evaluierung und Qualitätssicherung
  • Testdatensätze aus echten Fragen aufbauen und pflegen
  • Retrieval-Metriken wie Recall und Precision sowie Antwortmetriken wie Faithfulness
  • LLM-as-a-Judge sinnvoll einsetzen und kalibrieren
  • Regressionstests bei Änderungen an Chunking, Modell oder Prompt

Tag 2

Modul 5 Betrieb, Kosten und Datenschutz
  • Prompt-Caching, Batch-Verarbeitung und Modellwahl zur Kostensenkung
  • Latenz optimieren und Antworten streamen
  • Berechtigungen auf Dokumentebene, Mandantentrennung und Schutz vor Prompt Injection
  • Datenschutz: Datenresidenz, Auftragsverarbeitung, Löschkonzepte, DSGVO und EU AI Act
Modul 6 Praxislabor: Security & DevSecOps
  • Threat Modeling beschleunigen
  • SAST-Funde triagieren
  • Secure Code Review
  • IaC und Container härten
  • Detection Engineering
  • Supply Chain absichern
Modul 7 Datenschutz, Qualität & Transfer in den Alltag
  • Quellcode, Schwachstelleninformationen und Logs sind hochsensibel: Sie lernen, welche Daten an KI-Dienste übergeben werden dürfen, wie Secrets aus dem Kontext ferngehalten werden und wie KI-Einsatz zu den Anforderungen aus NIS2, Cyber Resilience Act, DSGVO und EU AI Act passt.
  • Spielregeln für den sicheren KI-Einsatz im Team
  • Ergebnisse prüfen: Fakten, Quellen, Tests und Vier-Augen-Prinzip
  • Persönlicher Umsetzungsplan für die nächsten 30 Tage
  • Offene Fragen, Ausblick und Ressourcen zum Weiterlernen

Praxisszenarien aus Ihrem Bereich

Threat Modeling beschleunigen

Aus Architekturbeschreibungen und Datenflussdiagrammen STRIDE-basierte Bedrohungsanalysen ableiten, Vertrauensgrenzen identifizieren und konkrete Gegenmaßnahmen als prüfbare Anforderungen für das Backlog formulieren lassen. Bei Architekturänderungen wird das Modell gezielt aktualisiert statt neu erstellt.

SAST-Funde triagieren

Statische Analyseergebnisse mit dem tatsächlichen Code-Kontext abgleichen, Erreichbarkeit und Ausnutzbarkeit bewerten, False Positives begründet markieren und für echte Schwachstellen minimal-invasive Fixes als Pull Request vorbereiten.

Secure Code Review

Pull Requests gezielt auf Injection, fehlerhafte Autorisierung, unsichere Deserialisierung und Kryptografie-Fehler prüfen lassen, mit Verweis auf OWASP-Kategorien und nachvollziehbarer Begründung für jedes Finding. Hinweise erscheinen direkt als Review-Kommentare.

IaC und Container härten

Terraform-Module, Helm-Charts und Dockerfiles auf überprivilegierte Rollen, offene Ports, fehlende Verschlüsselung und unsichere Base-Images analysieren und gehärtete Varianten mit Policy-as-Code-Regeln erzeugen. Abweichungen werden bereits im Pull Request sichtbar.

Detection Engineering

Sigma-Regeln, YARA-Signaturen und SIEM-Abfragen aus Bedrohungsbeschreibungen entwerfen, mit Testdaten validieren und Dokumentation zu Angriffstechniken nach MITRE ATT&CK automatisch ergänzen. So entstehen getestete Regeln deutlich schneller und konsistenter als bei manueller Erstellung.

Supply Chain absichern

SBOMs auswerten, verwundbare Abhängigkeiten priorisieren, Update-Pfade inklusive Breaking Changes analysieren und Pipeline-Schritte für Signierung, Provenance und Dependency-Pinning automatisiert ergänzen. Update-Pull-Requests enthalten eine verständliche Zusammenfassung der Risiken und notwendigen Code-Anpassungen.

Mögliche Praxisprojekte im Kurs

Finding-Triage-Bot

Ein Skript, das SARIF-Dateien aus der Pipeline einliest, Funde dedupliziert, mit Code-Kontext anreichert und priorisierte Tickets mit Fix-Vorschlag erzeugt. Doppelte Meldungen verschwinden dabei zuverlässig.

Secret-Scanner-Hook

Ein Pre-Commit-Hook mit eigenen Erkennungsmustern für interne Token-Formate, Allowlist-Verwaltung und verständlichen Hinweisen, wie geleakte Secrets rotiert werden. Er läuft lokal und in der CI.

Threat-Model-Generator

Eine kleine Web-App, die aus einer Systembeschreibung ein strukturiertes Bedrohungsmodell mit Datenflüssen, Risiken und Maßnahmen als exportierbares Dokument erstellt. Die Vorlagen orientieren sich an STRIDE.

Voraussetzungen

Solide Programmierkenntnisse in Python (oder alternativ TypeScript), Grundkenntnisse in Datenbanken und REST-APIs sowie erste Erfahrungen mit LLM-APIs. Sie verfügen über Erfahrung in der Softwareentwicklung oder im Betrieb sowie über Grundkenntnisse in Anwendungssicherheit, etwa zu OWASP Top 10 und CI/CD-Pipelines.

Technische Voraussetzungen

Laptop mit Python, Git, Docker und Code-Editor sowie API-Zugang zu mindestens einem LLM- und Embedding-Anbieter. Zugangsdaten für die Übungen können bei Bedarf gestellt werden.

Datenschutz & Compliance

Quellcode, Schwachstelleninformationen und Logs sind hochsensibel: Sie lernen, welche Daten an KI-Dienste übergeben werden dürfen, wie Secrets aus dem Kontext ferngehalten werden und wie KI-Einsatz zu den Anforderungen aus NIS2, Cyber Resilience Act, DSGVO und EU AI Act passt.

Terminvorschläge

Alle Termine sind Vorschläge – Ihr Wunschtermin ist jederzeit möglich.

  • Mi, 25. November 2026 – Do, 26. November 2026 Online Anfragen
  • Mi, 9. Dezember 2026 – Do, 10. Dezember 2026 Bremen Anfragen
  • Do, 14. Januar 2027 – Fr, 15. Januar 2027 Online Anfragen
  • Mo, 18. Januar 2027 – Di, 19. Januar 2027 Salzburg Anfragen
  • Di, 26. Januar 2027 – Mi, 27. Januar 2027 Online Anfragen
  • Do, 11. Februar 2027 – Fr, 12. Februar 2027 Kaiserslautern Anfragen

Häufige Fragen

Wann ist RAG besser als Fine-Tuning?

RAG eignet sich, wenn ein Modell auf aktuelles, umfangreiches oder häufig wechselndes Wissen zugreifen und Quellen angeben soll. Fine-Tuning verändert eher Stil, Format oder spezialisiertes Verhalten. In vielen Projekten ist RAG der schnellere, günstigere und besser kontrollierbare Weg, gelegentlich ergänzt durch Fine-Tuning für Spezialaufgaben.

Welche Vektordatenbank sollten wir verwenden?

Das hängt von Datenmenge, bestehender Infrastruktur, Filteranforderungen und Betriebsmodell ab. Wer bereits PostgreSQL nutzt, kommt mit pgvector oft weit, spezialisierte Systeme punkten bei großen Datenmengen und hybrider Suche. Im Kurs vergleichen Sie mehrere Optionen praktisch und leiten Kriterien für Ihre Entscheidung ab.

Wie lässt sich RAG datenschutzkonform betreiben?

Wichtig sind die Wahl von Anbietern mit passender Datenresidenz und Auftragsverarbeitungsvertrag, Berechtigungsprüfungen auf Dokumentebene, ein Löschkonzept für Index und Logs sowie Datenminimierung bei personenbezogenen Inhalten. Für sensible Daten kommen auch selbst betriebene Modelle infrage. Wir behandeln diese Optionen anhand realistischer Architekturen.

Ist KI-generierter Code ein Sicherheitsrisiko?

KI-Assistenten reproduzieren mitunter unsichere Muster, veraltete Bibliotheken oder erfundene Paketnamen. Das Risiko ist beherrschbar, wenn generierter Code dieselben Prüfungen durchläuft wie handgeschriebener: Code-Review, SAST, Dependency-Scanning und Tests. Im Kurs etablieren Sie genau diese Leitplanken und nutzen KI zugleich selbst, um Schwachstellen schneller zu finden und zu beheben.

Darf ein KI-Agent Sicherheitsfixes selbstständig einspielen?

Wir empfehlen ein abgestuftes Modell: Der Agent analysiert, schlägt Fixes vor und erstellt Pull Requests, die Freigabe bleibt bei Menschen. Für risikoarme Routineaufgaben wie Dependency-Updates mit grünen Tests kann eine höhere Automatisierung sinnvoll sein. Sie lernen, Berechtigungen, Sandboxing und Audit-Trails so zu gestalten, dass die Entscheidung nachvollziehbar bleibt.

Was kostet die Schulung „RAG & LLM-Apps für Security- und DevSecOps-Teams“?

Die Schulung kostet pauschal 949 € zzgl. gesetzl. MwSt. pro Teilnehmer:in – unabhängig davon, ob sie online oder vor Ort stattfindet. Enthalten sind 2 Trainingstag(e) mit Live-Trainer:in, Kursunterlagen, Übungsumgebung und Teilnahmebescheinigung.

Kann ich einen eigenen Wunschtermin angeben?

Ja. Unsere Terminvorschläge sind eine Orientierung. Im Anfrageformular können Sie jederzeit einen Wunschtermin oder Zeitraum im Freitext angeben – wir prüfen die Verfügbarkeit und bestätigen innerhalb eines Werktags.

Findet der Kurs online oder vor Ort statt?

Beides ist möglich: live online im virtuellen Klassenraum oder vor Ort in München, Salzburg, Berlin, Augsburg, Hannover, Bremen, Stuttgart oder Kaiserslautern. Auf Wunsch führen wir das Training auch exklusiv für Ihr Team durch.

Weitere Kurse für Security- und DevSecOps-Teams

Weitere Kurse zu RAG & LLM-Apps

Alle 29 Kurse zu RAG & LLM-Apps

RAG & LLM-Apps · MünchenRAG & LLM-Apps · SalzburgRAG & LLM-Apps · BerlinRAG & LLM-Apps · AugsburgRAG & LLM-Apps · HannoverRAG & LLM-Apps · BremenRAG & LLM-Apps · StuttgartRAG & LLM-Apps · KaiserslauternRAG & LLM-Apps · Online