Entwicklung & Technik · AI Engineering & LLM-Anwendungen

KI-Schulungen für AI Engineers

AI Engineering ist die Disziplin, aus Sprachmodellen verlässliche Produkte zu machen: Chat-Assistenten, Dokumentenanalyse, Retrieval-Augmented Generation, Agenten mit Werkzeugzugriff und KI-Funktionen in bestehenden Anwendungen. Der Code rund um das Modell ist dabei oft anspruchsvoller als der Modellaufruf selbst, denn Prompt-Versionierung, strukturierte Ausgaben, Evaluierung, Kostenkontrolle, Latenz, Observability und Schutz vor Prompt Injection entscheiden über den Erfolg in Produktion. KI-Coding-Assistenten und Agenten beschleunigen genau diese Arbeit, vom Aufbau von Evaluierungs-Pipelines über Tool-Definitionen und MCP-Server bis zur Fehleranalyse in Traces. Im Kurs lernen Sie, LLM-Anwendungen mit KI-Unterstützung systematisch zu entwickeln, ihre Qualität messbar zu machen und sie sicher, kosteneffizient und regelkonform zu betreiben.

Für wen ist das Training?

  • Softwareentwickler:innen, die LLM-Funktionen in Produkte integrieren
  • AI Engineers und Machine-Learning-Engineers
  • Data Scientists mit Fokus auf generative KI
  • Backend- und Platform-Teams, die KI-Infrastruktur bereitstellen
  • Technische Produktverantwortliche für KI-Features

Typische Herausforderungen, die wir adressieren

  • Prototypen funktionieren in Demos, liefern in Produktion aber schwankende Qualität
  • Fehlende systematische Evaluierung macht Änderungen an Prompts und Modellen riskant
  • Kosten, Latenz und Ratenlimits geraten bei steigender Nutzung außer Kontrolle
  • Neue Sicherheitsrisiken durch Prompt Injection, Datenabfluss und Agenten mit weitreichenden Rechten

Praxisszenarien aus Ihrem Bereich

RAG-Pipelines aufbauen

Ingestion, Chunking, Embeddings, Vektorsuche, hybrides Retrieval und Reranking implementieren und Antworten mit Quellenangaben erzeugen, wobei Berechtigungen der Originaldokumente beim Abruf berücksichtigt werden. Die Qualität wird laufend gemessen.

Evaluierung automatisieren

Testdatensätze mit erwarteten Antworten erstellen, Metriken für Relevanz, Faktentreue und Format definieren, LLM-as-a-Judge-Bewertungen kalibrieren und Evaluierungen bei jeder Prompt- oder Modelländerung in der CI ausführen.

Agenten und Tools entwickeln

Tool-Definitionen und MCP-Server entwerfen, Agentenschleifen mit Planung, Werkzeugaufrufen und Abbruchbedingungen umsetzen und Berechtigungen sowie menschliche Freigaben für folgenreiche Aktionen einbauen. Abbrüche und Fehlschläge werden dabei sauber behandelt und protokolliert.

Strukturierte Ausgaben absichern

JSON-Schemas für Modellantworten definieren, Ausgaben validieren, Wiederholungsstrategien bei Fehlern implementieren und Extraktionsaufgaben wie Rechnungs- oder Vertragsdaten robust gestalten. Fehlerhafte Antworten werden so automatisch erkannt, bevor sie nachgelagerte Systeme oder Datenbanken erreichen.

Observability und Kosten

Traces, Token-Verbrauch, Latenzen und Fehlerraten erfassen, problematische Konversationen analysieren und Kosten durch Caching, Modell-Routing und Kontextreduktion gezielt senken. Budgets und Warnschwellen pro Funktion verhindern dabei unangenehme Überraschungen auf der monatlichen Rechnung.

Prompt Injection abwehren

Angriffsszenarien über manipulierte Dokumente, Webseiten oder Tool-Ergebnisse testen, Eingaben und Ausgaben filtern, Rechte von Agenten begrenzen und Red-Teaming-Tests als festen Bestandteil der Pipeline etablieren. Funde fließen in Regressionstests ein.

Mögliche Praxisprojekte im Kurs

Wissensassistent mit Quellen

Ein RAG-Chat über interne Dokumente mit Zitaten, Feedback-Buttons und einer Evaluierungsseite, die Antwortqualität über Testfragen verfolgt. Berechtigungen der Quelldokumente werden beim Abruf berücksichtigt.

Evaluierungs-Harness

Ein Kommandozeilenwerkzeug, das Prompt-Varianten gegen einen Testdatensatz ausführt, Ergebnisse bewertet und Unterschiede zwischen Versionen übersichtlich darstellt. Es lässt sich als Qualitätsschranke in die CI einbinden.

Dokumenten-Extraktor

Ein Dienst, der PDFs entgegennimmt, strukturierte Daten nach einem JSON-Schema extrahiert, validiert und unsichere Fälle zur manuellen Prüfung markiert. Korrekturen fließen in Testdaten ein.

Datenschutz & Compliance

LLM-Anwendungen verarbeiten häufig personenbezogene und vertrauliche Daten: Sie lernen, Anforderungen des EU AI Act an Transparenz und Risikoklassen einzuordnen, DSGVO-konforme Datenflüsse mit Auftragsverarbeitung und Löschkonzepten zu gestalten, API-Schlüssel sicher zu verwalten und Lizenzbedingungen von Modellen und Datensätzen zu beachten.

Voraussetzungen

Sie haben solide Programmierkenntnisse, idealerweise in Python oder TypeScript, und Erfahrung mit APIs; erste Berührung mit LLM-APIs ist hilfreich, aber nicht erforderlich.

Häufige Fragen

Worin unterscheidet sich AI Engineering von klassischem Machine Learning?

Beim klassischen Machine Learning trainieren Sie eigene Modelle auf eigenen Daten. Im AI Engineering nutzen Sie meist vortrainierte Sprachmodelle über APIs oder selbst betriebene Modelle und konzentrieren sich auf Kontext, Retrieval, Werkzeuge, Evaluierung und Betrieb. Statistik- und Trainingswissen ist weniger zentral, Software-Engineering-Kompetenz dafür umso wichtiger. Der Kurs setzt genau dort an.

Wie messen wir, ob unsere LLM-Anwendung gut genug ist?

Mit einem Evaluierungsdatensatz aus realistischen Fragen und erwarteten Ergebnissen, kombinierten Metriken aus regelbasierten Prüfungen, LLM-as-a-Judge und menschlicher Stichprobe sowie Monitoring im Betrieb. Wichtig ist, Evaluierungen bei jeder Änderung automatisch laufen zu lassen. Im Kurs bauen Sie ein solches Setup auf und lernen, Bewertungsmodelle zu kalibrieren.

Unverbindlich anfragen

Wir melden uns innerhalb eines Werktags mit Terminbestätigung oder Alternativvorschlag.

Format *
Gesamt 949 € zzgl. gesetzl. MwSt.