Schulung · KI-Agenten-Entwicklung · Security & DevSecOps

KI-Agenten-Entwicklung für Security- und DevSecOps-Teams

KI-Agenten professionell entwickeln: Architekturen, Tool Use, Agent SDKs, LangGraph, Memory, Evals, Guardrails und Deployment.

Dauer
2 Tage (14 Std.)
Format
Online oder vor Ort
Sprache
Deutsch oder Englisch
Teilnehmende
offene Termine oder exklusiv für Ihr Team
Abschluss
Teilnahmebescheinigung

Überblick

Das Training „KI-Agenten-Entwicklung für Security- und DevSecOps-Teams“ richtet sich an Rollen wie Application-Security-Engineers und Security Champions in Entwicklungsteams, DevSecOps- und Platform-Engineers, die CI/CD-Pipelines verantworten und Penetrationstester:innen und Red-Team-Mitglieder und zeigt Schritt für Schritt, wie KI-Agenten-Entwicklung im Bereich Security & DevSecOps produktiv, sicher und nachvollziehbar eingesetzt wird – von den Grundlagen bis zu fortgeschrittenen Workflows.

KI-Agenten gehen über klassische Chatbots hinaus: Sie zerlegen Aufgaben, rufen Werkzeuge und APIs auf, werten Ergebnisse aus und arbeiten in Schleifen, bis ein Ziel erreicht ist. In dieser zweitägigen Schulung lernen Sie, solche Systeme so zu entwickeln, dass sie im Unternehmensalltag zuverlässig, nachvollziehbar und sicher funktionieren. Sie vergleichen Architekturmuster vom einfachen Workflow über den Agent Loop bis zu Multi-Agenten-Systemen und setzen sie mit dem Claude Agent SDK, dem OpenAI Agents SDK und LangGraph praktisch um.

Im Mittelpunkt steht nicht das schnelle Demo, sondern der Weg in die Produktion. Sie gestalten Tool-Schnittstellen und Kontext gezielt, binden Werkzeuge über das Model Context Protocol an, entwerfen Kurz- und Langzeitgedächtnis und bauen Evaluierungen auf, die Regressionen früh sichtbar machen. Hinzu kommen Guardrails gegen Prompt Injection und Fehlaktionen, Human-in-the-Loop-Freigaben, Tracing, Kostenkontrolle und Deployment. Am Ende entscheiden Sie fundiert, wann ein Agent sinnvoll ist, wann ein deterministischer Workflow genügt und welches Framework zu Ihrem Vorhaben passt.

KI-Coding-Assistenten und Agenten verändern die Anwendungssicherheit von zwei Seiten: Sie beschleunigen Threat Modeling, Code-Reviews und das Schreiben von Detection-Regeln, erzeugen aber gleichzeitig neuen Code in einem Tempo, dem klassische Security-Gates kaum folgen. Security- und DevSecOps-Teams nutzen KI daher, um SAST-Funde zu triagieren, Fixes für Schwachstellen vorzuschlagen, CI/CD-Pipelines mit Prüfschritten zu härten und Infrastructure-as-Code auf Fehlkonfigurationen zu untersuchen. Entscheidend ist ein kontrollierter Rahmen: Agenten mit minimalen Rechten, keine Secrets im Prompt-Kontext, nachvollziehbare Änderungen per Pull Request und menschliche Freigabe für sicherheitskritische Entscheidungen. Im Kurs lernen Sie, KI als Verstärker Ihres Security-Programms einzusetzen und zugleich die neuen Risiken durch generierten Code, Prompt Injection und unsichere Tool-Anbindungen zu beherrschen.

Das Training findet live statt – wahlweise online im virtuellen Klassenraum oder vor Ort in unseren Trainingsräumen in München, Salzburg, Berlin, Augsburg, Hannover, Bremen, Stuttgart und Kaiserslautern. Auf Wunsch kommen wir auch exklusiv für Ihr Team zusammen.

Für wen ist das Training?

  • Application-Security-Engineers und Security Champions in Entwicklungsteams
  • DevSecOps- und Platform-Engineers, die CI/CD-Pipelines verantworten
  • Penetrationstester:innen und Red-Team-Mitglieder
  • SOC-Analyst:innen und Detection Engineers
  • Entwickler:innen mit Verantwortung für sichere Software-Lieferketten

Typische Herausforderungen, die wir adressieren

  • Flut an SAST-, DAST- und SCA-Funden mit hohem Anteil an False Positives
  • Security-Reviews werden zum Engpass, weil Entwicklungsteams mit KI deutlich mehr Code liefern
  • Fehlkonfigurationen in Terraform, Kubernetes-Manifests und Cloud-Policies bleiben unentdeckt
  • Neue Angriffsflächen durch LLM-Integrationen, Prompt Injection und Agenten mit weitreichenden Rechten

Das können Sie nach dem Training

  • Sie wählen für eine Aufgabe das passende Muster zwischen festem Workflow und autonomem Agenten.
  • Sie entwerfen Werkzeuge und Kontext so, dass Agenten zuverlässig und kosteneffizient arbeiten.
  • Sie implementieren Agenten mit Claude Agent SDK, OpenAI Agents SDK oder LangGraph.
  • Sie bauen Evaluierungen und Tracing auf, um Qualität messbar zu machen und Regressionen zu erkennen.
  • Sie setzen KI-Agenten für Triage, Review und Fix-Erstellung ein, ohne die Kontrolle über sicherheitskritische Änderungen abzugeben.
  • Sie integrieren KI-gestützte Prüfschritte in CI/CD-Pipelines und verknüpfen sie mit bestehenden SAST-, SCA- und IaC-Scannern.
  • Sie bewerten und mitigieren die spezifischen Risiken von KI-generiertem Code, Prompt Injection und Agenten-Tool-Zugriffen.

Inhalte & Ablauf

Tag 1

Modul 1 Agent-Architekturen und Entwurfsmuster
  • Workflows versus Agenten: Prompt Chaining, Routing, Parallelisierung, Orchestrator-Worker
  • Der Agent Loop: Planen, Handeln, Beobachten, Reflektieren
  • Multi-Agenten-Systeme, Subagenten und Übergaben zwischen Agenten
  • Auswahlkriterien für Modell, Framework und Autonomiegrad
Modul 2 Tool Use und Kontext-Engineering
  • Function Calling und strukturierte Ausgaben mit JSON-Schema
  • Werkzeuge gut entwerfen: Granularität, Benennung, Fehlermeldungen, Idempotenz
  • Werkzeuge über MCP-Server anbinden und wiederverwenden
  • Kontextfenster managen: Zusammenfassung, Kompaktierung, Retrieval und Prompt-Caching
Modul 3 Frameworks in der Praxis
  • Claude Agent SDK: Agent Loop, Tools, Subagenten, Berechtigungen und Hooks
  • OpenAI Agents SDK: Agents, Handoffs, Guardrails und Tracing
  • LangGraph: zustandsbehaftete Graphen, Checkpointing und Human-in-the-Loop
  • Gemeinsamer Vergleich anhand derselben Aufgabe und Kriterien für die Framework-Wahl
Modul 4 Memory, Evals und Observability
  • Kurzzeit- und Langzeitgedächtnis, Speicherstrategien und Vergessen
  • Evaluierungsdatensätze, LLM-as-a-Judge und aufgabenbasierte Erfolgsmessung
  • Tracing von Tool-Aufrufen, Token-Verbrauch und Latenzen
  • Regressionstests bei Prompt-, Modell- oder Tool-Änderungen

Tag 2

Modul 5 Guardrails, Sicherheit und Deployment
  • Prompt Injection, Datenabfluss und überprivilegierte Werkzeuge absichern
  • Eingabe- und Ausgabeprüfungen, Freigabeschritte und Sandboxing
  • Deployment als Service, asynchrone Ausführung, Retries und Kostenlimits
  • Governance, Protokollierung und Anforderungen aus DSGVO und EU AI Act
Modul 6 Praxislabor: Security & DevSecOps
  • Threat Modeling beschleunigen
  • SAST-Funde triagieren
  • Secure Code Review
  • IaC und Container härten
  • Detection Engineering
  • Supply Chain absichern
Modul 7 Datenschutz, Qualität & Transfer in den Alltag
  • Quellcode, Schwachstelleninformationen und Logs sind hochsensibel: Sie lernen, welche Daten an KI-Dienste übergeben werden dürfen, wie Secrets aus dem Kontext ferngehalten werden und wie KI-Einsatz zu den Anforderungen aus NIS2, Cyber Resilience Act, DSGVO und EU AI Act passt.
  • Spielregeln für den sicheren KI-Einsatz im Team
  • Ergebnisse prüfen: Fakten, Quellen, Tests und Vier-Augen-Prinzip
  • Persönlicher Umsetzungsplan für die nächsten 30 Tage
  • Offene Fragen, Ausblick und Ressourcen zum Weiterlernen

Praxisszenarien aus Ihrem Bereich

Threat Modeling beschleunigen

Aus Architekturbeschreibungen und Datenflussdiagrammen STRIDE-basierte Bedrohungsanalysen ableiten, Vertrauensgrenzen identifizieren und konkrete Gegenmaßnahmen als prüfbare Anforderungen für das Backlog formulieren lassen. Bei Architekturänderungen wird das Modell gezielt aktualisiert statt neu erstellt.

SAST-Funde triagieren

Statische Analyseergebnisse mit dem tatsächlichen Code-Kontext abgleichen, Erreichbarkeit und Ausnutzbarkeit bewerten, False Positives begründet markieren und für echte Schwachstellen minimal-invasive Fixes als Pull Request vorbereiten.

Secure Code Review

Pull Requests gezielt auf Injection, fehlerhafte Autorisierung, unsichere Deserialisierung und Kryptografie-Fehler prüfen lassen, mit Verweis auf OWASP-Kategorien und nachvollziehbarer Begründung für jedes Finding. Hinweise erscheinen direkt als Review-Kommentare.

IaC und Container härten

Terraform-Module, Helm-Charts und Dockerfiles auf überprivilegierte Rollen, offene Ports, fehlende Verschlüsselung und unsichere Base-Images analysieren und gehärtete Varianten mit Policy-as-Code-Regeln erzeugen. Abweichungen werden bereits im Pull Request sichtbar.

Detection Engineering

Sigma-Regeln, YARA-Signaturen und SIEM-Abfragen aus Bedrohungsbeschreibungen entwerfen, mit Testdaten validieren und Dokumentation zu Angriffstechniken nach MITRE ATT&CK automatisch ergänzen. So entstehen getestete Regeln deutlich schneller und konsistenter als bei manueller Erstellung.

Supply Chain absichern

SBOMs auswerten, verwundbare Abhängigkeiten priorisieren, Update-Pfade inklusive Breaking Changes analysieren und Pipeline-Schritte für Signierung, Provenance und Dependency-Pinning automatisiert ergänzen. Update-Pull-Requests enthalten eine verständliche Zusammenfassung der Risiken und notwendigen Code-Anpassungen.

Mögliche Praxisprojekte im Kurs

Finding-Triage-Bot

Ein Skript, das SARIF-Dateien aus der Pipeline einliest, Funde dedupliziert, mit Code-Kontext anreichert und priorisierte Tickets mit Fix-Vorschlag erzeugt. Doppelte Meldungen verschwinden dabei zuverlässig.

Secret-Scanner-Hook

Ein Pre-Commit-Hook mit eigenen Erkennungsmustern für interne Token-Formate, Allowlist-Verwaltung und verständlichen Hinweisen, wie geleakte Secrets rotiert werden. Er läuft lokal und in der CI.

Threat-Model-Generator

Eine kleine Web-App, die aus einer Systembeschreibung ein strukturiertes Bedrohungsmodell mit Datenflüssen, Risiken und Maßnahmen als exportierbares Dokument erstellt. Die Vorlagen orientieren sich an STRIDE.

Voraussetzungen

Solide Programmierkenntnisse in Python oder TypeScript, Erfahrung mit REST-APIs sowie erste praktische Erfahrungen mit LLM-APIs oder KI-Assistenten. Sie verfügen über Erfahrung in der Softwareentwicklung oder im Betrieb sowie über Grundkenntnisse in Anwendungssicherheit, etwa zu OWASP Top 10 und CI/CD-Pipelines.

Technische Voraussetzungen

Laptop mit Python oder Node.js, Git und Code-Editor sowie API-Zugänge zu mindestens einem LLM-Anbieter, etwa Anthropic oder OpenAI. Zugangsdaten für Übungen können bei Bedarf gestellt werden.

Datenschutz & Compliance

Quellcode, Schwachstelleninformationen und Logs sind hochsensibel: Sie lernen, welche Daten an KI-Dienste übergeben werden dürfen, wie Secrets aus dem Kontext ferngehalten werden und wie KI-Einsatz zu den Anforderungen aus NIS2, Cyber Resilience Act, DSGVO und EU AI Act passt.

Terminvorschläge

Alle Termine sind Vorschläge – Ihr Wunschtermin ist jederzeit möglich.

  • Di, 24. November 2026 – Mi, 25. November 2026 Online Anfragen
  • Do, 3. Dezember 2026 – Fr, 4. Dezember 2026 München Anfragen
  • Mi, 9. Dezember 2026 – Do, 10. Dezember 2026 Online Anfragen
  • Di, 15. Dezember 2026 – Mi, 16. Dezember 2026 Stuttgart Anfragen
  • Mo, 11. Januar 2027 – Di, 12. Januar 2027 Online Anfragen
  • Mi, 20. Januar 2027 – Do, 21. Januar 2027 Berlin Anfragen

Häufige Fragen

Welches Agent-Framework sollten wir einsetzen?

Das hängt von Modellstrategie, Kontrolle und Teamkompetenz ab. Die herstellereigenen SDKs bieten einen schlanken Einstieg mit eng abgestimmten Funktionen, LangGraph gibt Ihnen feinere Kontrolle über Zustände und Abläufe. Im Kurs lösen Sie dieselbe Aufgabe mit mehreren Frameworks und leiten daraus nachvollziehbare Auswahlkriterien für Ihr Projekt ab.

Wie verhindert man, dass ein Agent falsche oder gefährliche Aktionen ausführt?

Durch mehrere Schutzschichten: eng geschnittene Werkzeuge mit minimalen Rechten, Validierung von Ein- und Ausgaben, Freigabeschritte für kritische Aktionen, Sandboxing und kontinuierliche Evaluierung. Prompt Injection über externe Inhalte wird als realistisches Risiko behandelt. Sie üben diese Maßnahmen konkret an Ihrem eigenen Agenten.

Brauche ich für jede Automatisierung einen Agenten?

Nein. Viele Aufgaben lassen sich mit einem festen Workflow aus wenigen LLM-Aufrufen zuverlässiger, günstiger und besser nachvollziehbar lösen. Agenten lohnen sich, wenn Lösungswege nicht vorab planbar sind und das System flexibel auf Zwischenergebnisse reagieren muss. Genau diese Abwägung trainieren wir anhand praktischer Beispiele.

Ist KI-generierter Code ein Sicherheitsrisiko?

KI-Assistenten reproduzieren mitunter unsichere Muster, veraltete Bibliotheken oder erfundene Paketnamen. Das Risiko ist beherrschbar, wenn generierter Code dieselben Prüfungen durchläuft wie handgeschriebener: Code-Review, SAST, Dependency-Scanning und Tests. Im Kurs etablieren Sie genau diese Leitplanken und nutzen KI zugleich selbst, um Schwachstellen schneller zu finden und zu beheben.

Darf ein KI-Agent Sicherheitsfixes selbstständig einspielen?

Wir empfehlen ein abgestuftes Modell: Der Agent analysiert, schlägt Fixes vor und erstellt Pull Requests, die Freigabe bleibt bei Menschen. Für risikoarme Routineaufgaben wie Dependency-Updates mit grünen Tests kann eine höhere Automatisierung sinnvoll sein. Sie lernen, Berechtigungen, Sandboxing und Audit-Trails so zu gestalten, dass die Entscheidung nachvollziehbar bleibt.

Was kostet die Schulung „KI-Agenten-Entwicklung für Security- und DevSecOps-Teams“?

Die Schulung kostet pauschal 949 € zzgl. gesetzl. MwSt. pro Teilnehmer:in – unabhängig davon, ob sie online oder vor Ort stattfindet. Enthalten sind 2 Trainingstag(e) mit Live-Trainer:in, Kursunterlagen, Übungsumgebung und Teilnahmebescheinigung.

Kann ich einen eigenen Wunschtermin angeben?

Ja. Unsere Terminvorschläge sind eine Orientierung. Im Anfrageformular können Sie jederzeit einen Wunschtermin oder Zeitraum im Freitext angeben – wir prüfen die Verfügbarkeit und bestätigen innerhalb eines Werktags.

Findet der Kurs online oder vor Ort statt?

Beides ist möglich: live online im virtuellen Klassenraum oder vor Ort in München, Salzburg, Berlin, Augsburg, Hannover, Bremen, Stuttgart oder Kaiserslautern. Auf Wunsch führen wir das Training auch exklusiv für Ihr Team durch.

Weitere Kurse für Security- und DevSecOps-Teams

Weitere Kurse zu KI-Agenten-Entwicklung

Alle 30 Kurse zu KI-Agenten-Entwicklung

KI-Agenten-Entwicklung · MünchenKI-Agenten-Entwicklung · SalzburgKI-Agenten-Entwicklung · BerlinKI-Agenten-Entwicklung · AugsburgKI-Agenten-Entwicklung · HannoverKI-Agenten-Entwicklung · BremenKI-Agenten-Entwicklung · StuttgartKI-Agenten-Entwicklung · KaiserslauternKI-Agenten-Entwicklung · Online