Schulung – RAG & LLM-Apps – AI Engineering & LLM-Anwendungen

RAG & LLM-Apps für AI Engineers

RAG und LLM-Anwendungen entwickeln: Embeddings, Vektordatenbanken, Chunking, Retrieval, Evaluierung, Kosten und Datenschutz.

Dauer
6 Stunden, ein Termin
Format
Online oder vor Ort
Sprache
Deutsch oder Englisch
Teilnehmende
offene Termine oder exklusiv für Ihr Team
Abschluss
Teilnahmebescheinigung

Überblick

Das Training „RAG & LLM-Apps für AI Engineers“ richtet sich an Rollen wie Softwareentwickler:innen, die LLM-Funktionen in Produkte integrieren, AI Engineers und Machine-Learning-Engineers und Data Scientists mit Fokus auf generative KI und zeigt Schritt für Schritt, wie RAG & LLM-Apps im Bereich AI Engineering & LLM-Anwendungen produktiv, sicher und nachvollziehbar eingesetzt wird – von den Grundlagen bis zu fortgeschrittenen Workflows.

Retrieval-Augmented Generation verbindet Sprachmodelle mit Ihrem eigenen Wissen: Handbücher, Verträge, Tickets, Wikis oder Produktdaten werden durchsuchbar gemacht und dem Modell zur Laufzeit als Kontext übergeben. So entstehen Assistenten, die fundiert mit Quellenangaben antworten, statt zu halluzinieren. In dieser kompakten Schulung bauen Sie eine vollständige RAG-Pipeline von der Dokumentaufbereitung über Embeddings und Vektordatenbank bis zur Antwortgenerierung und lernen anhand eigener Testdokumente, an welchen Stellschrauben die Qualität der Antworten tatsächlich entschieden wird.

Der zweite Tag führt vom Prototyp zur belastbaren Anwendung. Sie vergleichen Chunking-Strategien, kombinieren semantische und lexikalische Suche, setzen Reranking, Metadatenfilter und Query-Umformulierung ein und messen die Wirkung mit systematischen Evaluierungen. Hinzu kommen Prompt-Caching, Kostensteuerung, Latenzoptimierung, Berechtigungskonzepte auf Dokumentebene und datenschutzkonformer Betrieb mit Blick auf DSGVO und EU AI Act. Am Ende wissen Sie, wann klassisches RAG genügt, wann ein großes Kontextfenster oder ein agentisches Retrieval besser passt und wie Sie Ihre Architektur begründet auswählen.

AI Engineering ist die Disziplin, aus Sprachmodellen verlässliche Produkte zu machen: Chat-Assistenten, Dokumentenanalyse, Retrieval-Augmented Generation, Agenten mit Werkzeugzugriff und KI-Funktionen in bestehenden Anwendungen. Der Code rund um das Modell ist dabei oft anspruchsvoller als der Modellaufruf selbst, denn Prompt-Versionierung, strukturierte Ausgaben, Evaluierung, Kostenkontrolle, Latenz, Observability und Schutz vor Prompt Injection entscheiden über den Erfolg in Produktion. KI-Coding-Assistenten und Agenten beschleunigen genau diese Arbeit, vom Aufbau von Evaluierungs-Pipelines über Tool-Definitionen und MCP-Server bis zur Fehleranalyse in Traces. Im Kurs lernen Sie, LLM-Anwendungen mit KI-Unterstützung systematisch zu entwickeln, ihre Qualität messbar zu machen und sie sicher, kosteneffizient und regelkonform zu betreiben.

Das Training findet live statt – wahlweise online im virtuellen Klassenraum oder vor Ort in unseren Trainingsräumen in München, Salzburg, Berlin, Augsburg, Hannover, Bremen, Stuttgart und Kaiserslautern. Auf Wunsch kommen wir auch exklusiv für Ihr Team zusammen.

Für wen ist das Training?

  • Softwareentwickler:innen, die LLM-Funktionen in Produkte integrieren
  • AI Engineers und Machine-Learning-Engineers
  • Data Scientists mit Fokus auf generative KI
  • Backend- und Platform-Teams, die KI-Infrastruktur bereitstellen
  • Technische Produktverantwortliche für KI-Features

Typische Herausforderungen, die wir adressieren

  • Prototypen funktionieren in Demos, liefern in Produktion aber schwankende Qualität
  • Fehlende systematische Evaluierung macht Änderungen an Prompts und Modellen riskant
  • Kosten, Latenz und Ratenlimits geraten bei steigender Nutzung außer Kontrolle
  • Neue Sicherheitsrisiken durch Prompt Injection, Datenabfluss und Agenten mit weitreichenden Rechten

Das können Sie nach dem Training

  • Sie bauen eine vollständige RAG-Pipeline von der Dokumentaufbereitung bis zur Antwort mit Quellenangaben.
  • Sie wählen Embedding-Modell, Chunking-Strategie und Vektordatenbank begründet aus.
  • Sie verbessern die Trefferqualität mit hybrider Suche, Reranking und Metadatenfiltern.
  • Sie messen die Qualität Ihrer Anwendung mit systematischen Evaluierungen und erkennen Regressionen.
  • Sie entwickeln RAG-Anwendungen, Agenten und LLM-Funktionen mit KI-Coding-Werkzeugen systematisch und produktionsreif.
  • Sie machen die Qualität von LLM-Anwendungen mit automatisierten Evaluierungen messbar und steuerbar.
  • Sie betreiben LLM-Anwendungen sicher und kosteneffizient, mit Observability, Schutz vor Prompt Injection und klaren Berechtigungen.

Inhalte & Ablauf

Modul 1 Grundlagen von RAG und LLM-Anwendungen
  • Architektur einer RAG-Pipeline: Ingestion, Indexierung, Retrieval, Generierung
  • Embeddings verstehen: semantische Ähnlichkeit, Dimensionen, Modellauswahl
  • RAG, Fine-Tuning und lange Kontextfenster sinnvoll gegeneinander abwägen
  • Strukturierte Ausgaben, Quellenangaben und Umgang mit Halluzinationen
Modul 2 Dokumentaufbereitung und Chunking
  • PDF, Office-Dokumente, HTML und Tabellen zuverlässig extrahieren
  • Chunking-Strategien: feste Größe, strukturbasiert, semantisch, mit Überlappung
  • Metadaten anreichern und kontextuelle Zusammenfassungen pro Chunk erzeugen
  • Inkrementelle Aktualisierung und Löschung von Dokumenten im Index
Modul 3 Vektordatenbanken und Retrieval-Strategien
  • Vektordatenbanken und -erweiterungen im Vergleich, etwa pgvector, Qdrant, Weaviate oder OpenSearch
  • Hybride Suche aus Vektor- und Volltextsuche mit BM25
  • Reranking, Metadatenfilter und Query-Umformulierung
  • Agentisches Retrieval: das Modell entscheidet selbst über Suchschritte und Werkzeuge
Modul 4 Evaluierung und Qualitätssicherung
  • Testdatensätze aus echten Fragen aufbauen und pflegen
  • Retrieval-Metriken wie Recall und Precision sowie Antwortmetriken wie Faithfulness
  • LLM-as-a-Judge sinnvoll einsetzen und kalibrieren
  • Regressionstests bei Änderungen an Chunking, Modell oder Prompt
Modul 5 Betrieb, Kosten und Datenschutz
  • Prompt-Caching, Batch-Verarbeitung und Modellwahl zur Kostensenkung
  • Latenz optimieren und Antworten streamen
  • Berechtigungen auf Dokumentebene, Mandantentrennung und Schutz vor Prompt Injection
  • Datenschutz: Datenresidenz, Auftragsverarbeitung, Löschkonzepte, DSGVO und EU AI Act
Modul 6 Praxislabor: AI Engineering & LLM-Anwendungen
  • RAG-Pipelines aufbauen
  • Evaluierung automatisieren
  • Agenten und Tools entwickeln
  • Strukturierte Ausgaben absichern
  • Observability und Kosten
  • Prompt Injection abwehren
Modul 7 Datenschutz, Qualität & Transfer in den Alltag
  • LLM-Anwendungen verarbeiten häufig personenbezogene und vertrauliche Daten: Sie lernen, Anforderungen des EU AI Act an Transparenz und Risikoklassen einzuordnen, DSGVO-konforme Datenflüsse mit Auftragsverarbeitung und Löschkonzepten zu gestalten, API-Schlüssel sicher zu verwalten und Lizenzbedingungen von Modellen und Datensätzen zu beachten.
  • Spielregeln für den sicheren KI-Einsatz im Team
  • Ergebnisse prüfen: Fakten, Quellen, Tests und Vier-Augen-Prinzip
  • Persönlicher Umsetzungsplan für die nächsten 30 Tage
  • Offene Fragen, Ausblick und Ressourcen zum Weiterlernen

Praxisszenarien aus Ihrem Bereich

RAG-Pipelines aufbauen

Ingestion, Chunking, Embeddings, Vektorsuche, hybrides Retrieval und Reranking implementieren und Antworten mit Quellenangaben erzeugen, wobei Berechtigungen der Originaldokumente beim Abruf berücksichtigt werden. Die Qualität wird laufend gemessen.

Evaluierung automatisieren

Testdatensätze mit erwarteten Antworten erstellen, Metriken für Relevanz, Faktentreue und Format definieren, LLM-as-a-Judge-Bewertungen kalibrieren und Evaluierungen bei jeder Prompt- oder Modelländerung in der CI ausführen.

Agenten und Tools entwickeln

Tool-Definitionen und MCP-Server entwerfen, Agentenschleifen mit Planung, Werkzeugaufrufen und Abbruchbedingungen umsetzen und Berechtigungen sowie menschliche Freigaben für folgenreiche Aktionen einbauen. Abbrüche und Fehlschläge werden dabei sauber behandelt und protokolliert.

Strukturierte Ausgaben absichern

JSON-Schemas für Modellantworten definieren, Ausgaben validieren, Wiederholungsstrategien bei Fehlern implementieren und Extraktionsaufgaben wie Rechnungs- oder Vertragsdaten robust gestalten. Fehlerhafte Antworten werden so automatisch erkannt, bevor sie nachgelagerte Systeme oder Datenbanken erreichen.

Observability und Kosten

Traces, Token-Verbrauch, Latenzen und Fehlerraten erfassen, problematische Konversationen analysieren und Kosten durch Caching, Modell-Routing und Kontextreduktion gezielt senken. Budgets und Warnschwellen pro Funktion verhindern dabei unangenehme Überraschungen auf der monatlichen Rechnung.

Prompt Injection abwehren

Angriffsszenarien über manipulierte Dokumente, Webseiten oder Tool-Ergebnisse testen, Eingaben und Ausgaben filtern, Rechte von Agenten begrenzen und Red-Teaming-Tests als festen Bestandteil der Pipeline etablieren. Funde fließen in Regressionstests ein.

Mögliche Praxisprojekte im Kurs

Wissensassistent mit Quellen

Ein RAG-Chat über interne Dokumente mit Zitaten, Feedback-Buttons und einer Evaluierungsseite, die Antwortqualität über Testfragen verfolgt. Berechtigungen der Quelldokumente werden beim Abruf berücksichtigt.

Evaluierungs-Harness

Ein Kommandozeilenwerkzeug, das Prompt-Varianten gegen einen Testdatensatz ausführt, Ergebnisse bewertet und Unterschiede zwischen Versionen übersichtlich darstellt. Es lässt sich als Qualitätsschranke in die CI einbinden.

Dokumenten-Extraktor

Ein Dienst, der PDFs entgegennimmt, strukturierte Daten nach einem JSON-Schema extrahiert, validiert und unsichere Fälle zur manuellen Prüfung markiert. Korrekturen fließen in Testdaten ein.

Voraussetzungen

Solide Programmierkenntnisse in Python (oder alternativ TypeScript), Grundkenntnisse in Datenbanken und REST-APIs sowie erste Erfahrungen mit LLM-APIs. Sie haben solide Programmierkenntnisse, idealerweise in Python oder TypeScript, und Erfahrung mit APIs; erste Berührung mit LLM-APIs ist hilfreich, aber nicht erforderlich.

Technische Voraussetzungen

Laptop mit Python, Git, Docker und Code-Editor sowie API-Zugang zu mindestens einem LLM- und Embedding-Anbieter. Zugangsdaten für die Übungen können bei Bedarf gestellt werden.

Datenschutz & Compliance

LLM-Anwendungen verarbeiten häufig personenbezogene und vertrauliche Daten: Sie lernen, Anforderungen des EU AI Act an Transparenz und Risikoklassen einzuordnen, DSGVO-konforme Datenflüsse mit Auftragsverarbeitung und Löschkonzepten zu gestalten, API-Schlüssel sicher zu verwalten und Lizenzbedingungen von Modellen und Datensätzen zu beachten.

Termine & Standorte

Pro Standort schlagen wir Ihnen einen Termin in rund vier Wochen vor. Ihr Wunschtermin ist jederzeit möglich.

  • München Fr, 11. Dezember 2026 6 Std. Anfragen
  • Salzburg Do, 10. Dezember 2026 6 Std. Anfragen
  • Berlin Mi, 16. Dezember 2026 6 Std. Anfragen
  • Augsburg Fr, 11. Dezember 2026 6 Std. Anfragen
  • Hannover Mo, 14. Dezember 2026 6 Std. Anfragen
  • Bremen Mi, 16. Dezember 2026 6 Std. Anfragen
  • Stuttgart Do, 10. Dezember 2026 6 Std. Anfragen
  • Kaiserslautern Mi, 16. Dezember 2026 6 Std. Anfragen
  • Online Mo, 14. Dezember 2026 6 Std. Anfragen

Häufige Fragen

Wann ist RAG besser als Fine-Tuning?

RAG eignet sich, wenn ein Modell auf aktuelles, umfangreiches oder häufig wechselndes Wissen zugreifen und Quellen angeben soll. Fine-Tuning verändert eher Stil, Format oder spezialisiertes Verhalten. In vielen Projekten ist RAG der schnellere, günstigere und besser kontrollierbare Weg, gelegentlich ergänzt durch Fine-Tuning für Spezialaufgaben.

Welche Vektordatenbank sollten wir verwenden?

Das hängt von Datenmenge, bestehender Infrastruktur, Filteranforderungen und Betriebsmodell ab. Wer bereits PostgreSQL nutzt, kommt mit pgvector oft weit, spezialisierte Systeme punkten bei großen Datenmengen und hybrider Suche. Im Kurs vergleichen Sie mehrere Optionen praktisch und leiten Kriterien für Ihre Entscheidung ab.

Wie lässt sich RAG datenschutzkonform betreiben?

Wichtig sind die Wahl von Anbietern mit passender Datenresidenz und Auftragsverarbeitungsvertrag, Berechtigungsprüfungen auf Dokumentebene, ein Löschkonzept für Index und Logs sowie Datenminimierung bei personenbezogenen Inhalten. Für sensible Daten kommen auch selbst betriebene Modelle infrage. Wir behandeln diese Optionen anhand realistischer Architekturen.

Worin unterscheidet sich AI Engineering von klassischem Machine Learning?

Beim klassischen Machine Learning trainieren Sie eigene Modelle auf eigenen Daten. Im AI Engineering nutzen Sie meist vortrainierte Sprachmodelle über APIs oder selbst betriebene Modelle und konzentrieren sich auf Kontext, Retrieval, Werkzeuge, Evaluierung und Betrieb. Statistik- und Trainingswissen ist weniger zentral, Software-Engineering-Kompetenz dafür umso wichtiger. Der Kurs setzt genau dort an.

Wie messen wir, ob unsere LLM-Anwendung gut genug ist?

Mit einem Evaluierungsdatensatz aus realistischen Fragen und erwarteten Ergebnissen, kombinierten Metriken aus regelbasierten Prüfungen, LLM-as-a-Judge und menschlicher Stichprobe sowie Monitoring im Betrieb. Wichtig ist, Evaluierungen bei jeder Änderung automatisch laufen zu lassen. Im Kurs bauen Sie ein solches Setup auf und lernen, Bewertungsmodelle zu kalibrieren.

Was kostet die Schulung „RAG & LLM-Apps für AI Engineers“?

Die Schulung kostet pauschal 949 € zzgl. gesetzl. MwSt. pro Teilnehmer:in – unabhängig davon, ob sie online oder vor Ort stattfindet. Enthalten sind 6 Stunden Live-Training mit Trainer:in, Kursunterlagen, Übungsumgebung und Teilnahmebescheinigung.

Kann ich einen eigenen Wunschtermin angeben?

Ja. Für jeden Standort schlagen wir Ihnen einen Termin in rund vier Wochen vor. Im Anfrageformular können Sie aber jederzeit einen Wunschtermin oder Zeitraum im Freitext angeben – wir prüfen die Verfügbarkeit und melden uns innerhalb eines Werktags.

Findet der Kurs online oder vor Ort statt?

Beides ist möglich: live online im virtuellen Klassenraum oder vor Ort in München, Salzburg, Berlin, Augsburg, Hannover, Bremen, Stuttgart und Kaiserslautern. Auf Wunsch führen wir das Training auch exklusiv für Ihr Team durch.

Kann der Kurs auf unser Team zugeschnitten werden?

Ja. Maßgeschneiderte Kurse kosten ca. 4.500 € mehr, je nach Thema und nach Absprache. Wir stimmen Inhalte, Beispiele und Übungen vorab mit Ihnen ab.

Weitere Kurse für AI Engineers

Weitere Kurse zu RAG & LLM-Apps

Alle 29 Kurse zu RAG & LLM-Apps

RAG & LLM-Apps – MünchenRAG & LLM-Apps – SalzburgRAG & LLM-Apps – BerlinRAG & LLM-Apps – AugsburgRAG & LLM-Apps – HannoverRAG & LLM-Apps – BremenRAG & LLM-Apps – StuttgartRAG & LLM-Apps – KaiserslauternRAG & LLM-Apps – Online