Schulung · RAG & LLM-Apps · Data Science & Machine Learning

RAG & LLM-Apps für Data Scientists und ML-Engineers

RAG und LLM-Anwendungen entwickeln: Embeddings, Vektordatenbanken, Chunking, Retrieval, Evaluierung, Kosten und Datenschutz.

Dauer
2 Tage (14 Std.)
Format
Online oder vor Ort
Sprache
Deutsch oder Englisch
Teilnehmende
offene Termine oder exklusiv für Ihr Team
Abschluss
Teilnahmebescheinigung

Überblick

In diesem Kurs verbinden wir RAG & LLM-Apps mit den typischen Abläufen im Bereich Data Science & Machine Learning. Die Teilnehmenden arbeiten an realistischen Szenarien und nehmen sofort einsetzbare Prompts, Workflows und Checklisten mit.

Retrieval-Augmented Generation verbindet Sprachmodelle mit Ihrem eigenen Wissen: Handbücher, Verträge, Tickets, Wikis oder Produktdaten werden durchsuchbar gemacht und dem Modell zur Laufzeit als Kontext übergeben. So entstehen Assistenten, die fundiert mit Quellenangaben antworten, statt zu halluzinieren. In dieser zweitägigen Schulung bauen Sie eine vollständige RAG-Pipeline von der Dokumentaufbereitung über Embeddings und Vektordatenbank bis zur Antwortgenerierung und lernen anhand eigener Testdokumente, an welchen Stellschrauben die Qualität der Antworten tatsächlich entschieden wird.

Der zweite Tag führt vom Prototyp zur belastbaren Anwendung. Sie vergleichen Chunking-Strategien, kombinieren semantische und lexikalische Suche, setzen Reranking, Metadatenfilter und Query-Umformulierung ein und messen die Wirkung mit systematischen Evaluierungen. Hinzu kommen Prompt-Caching, Kostensteuerung, Latenzoptimierung, Berechtigungskonzepte auf Dokumentebene und datenschutzkonformer Betrieb mit Blick auf DSGVO und EU AI Act. Am Ende wissen Sie, wann klassisches RAG genügt, wann ein großes Kontextfenster oder ein agentisches Retrieval besser passt und wie Sie Ihre Architektur begründet auswählen.

Data Science und Machine Learning leben vom schnellen Wechsel zwischen Exploration, Modellierung und Produktivsetzung. Viel Zeit fließt dabei in Datenaufbereitung mit pandas oder Polars, Feature Engineering, Visualisierung, Hyperparameter-Experimente und schließlich das Überführen von Notebook-Code in wartbare Pipelines. KI-Coding-Assistenten und Agenten beschleunigen jeden dieser Schritte: Sie schreiben Explorations- und Plotting-Code, schlagen Validierungsstrategien vor, refaktorisieren Notebooks in getestete Python-Module, bauen scikit-learn- oder PyTorch-Trainingsskripte und richten Experiment-Tracking mit MLflow ein. Entscheidend ist dabei methodische Sorgfalt, denn plausibel wirkender Code kann Data Leakage oder falsche Metriken enthalten. Im Kurs lernen Sie, KI produktiv einzusetzen und die statistische Qualität Ihrer Ergebnisse abzusichern.

Das Training findet live statt – wahlweise online im virtuellen Klassenraum oder vor Ort in unseren Trainingsräumen in München, Salzburg, Berlin, Augsburg, Hannover, Bremen, Stuttgart und Kaiserslautern. Auf Wunsch kommen wir auch exklusiv für Ihr Team zusammen.

Für wen ist das Training?

  • Data Scientists in Fachbereichen und Analytics-Teams
  • ML-Engineers mit Verantwortung für Training und Deployment
  • Data Analysts, die in Python und Machine Learning einsteigen
  • Forschende und Entwickler:innen mit Notebook-lastigen Workflows
  • MLOps-Teams, die Modelle in Produktion betreiben

Typische Herausforderungen, die wir adressieren

  • Unübersichtliche Notebooks, die sich schwer reproduzieren und produktiv setzen lassen
  • Zeitaufwändige Datenaufbereitung und Feature Engineering
  • Methodische Fehler wie Data Leakage, ungeeignete Metriken oder fehlerhafte Validierung
  • Fehlende Nachvollziehbarkeit von Experimenten, Modellen und Datenständen

Das können Sie nach dem Training

  • Sie bauen eine vollständige RAG-Pipeline von der Dokumentaufbereitung bis zur Antwort mit Quellenangaben.
  • Sie wählen Embedding-Modell, Chunking-Strategie und Vektordatenbank begründet aus.
  • Sie verbessern die Trefferqualität mit hybrider Suche, Reranking und Metadatenfiltern.
  • Sie messen die Qualität Ihrer Anwendung mit systematischen Evaluierungen und erkennen Regressionen.
  • Sie beschleunigen Exploration, Feature Engineering und Modellierung mit KI-Assistenten, ohne methodische Sorgfalt aufzugeben.
  • Sie überführen Notebook-Code mit KI-Agenten in getestete, reproduzierbare ML-Pipelines.
  • Sie erkennen typische Fehler in generiertem ML-Code wie Data Leakage oder ungeeignete Metriken und korrigieren sie gezielt.

Inhalte & Ablauf

Tag 1

Modul 1 Grundlagen von RAG und LLM-Anwendungen
  • Architektur einer RAG-Pipeline: Ingestion, Indexierung, Retrieval, Generierung
  • Embeddings verstehen: semantische Ähnlichkeit, Dimensionen, Modellauswahl
  • RAG, Fine-Tuning und lange Kontextfenster sinnvoll gegeneinander abwägen
  • Strukturierte Ausgaben, Quellenangaben und Umgang mit Halluzinationen
Modul 2 Dokumentaufbereitung und Chunking
  • PDF, Office-Dokumente, HTML und Tabellen zuverlässig extrahieren
  • Chunking-Strategien: feste Größe, strukturbasiert, semantisch, mit Überlappung
  • Metadaten anreichern und kontextuelle Zusammenfassungen pro Chunk erzeugen
  • Inkrementelle Aktualisierung und Löschung von Dokumenten im Index
Modul 3 Vektordatenbanken und Retrieval-Strategien
  • Vektordatenbanken und -erweiterungen im Vergleich, etwa pgvector, Qdrant, Weaviate oder OpenSearch
  • Hybride Suche aus Vektor- und Volltextsuche mit BM25
  • Reranking, Metadatenfilter und Query-Umformulierung
  • Agentisches Retrieval: das Modell entscheidet selbst über Suchschritte und Werkzeuge
Modul 4 Evaluierung und Qualitätssicherung
  • Testdatensätze aus echten Fragen aufbauen und pflegen
  • Retrieval-Metriken wie Recall und Precision sowie Antwortmetriken wie Faithfulness
  • LLM-as-a-Judge sinnvoll einsetzen und kalibrieren
  • Regressionstests bei Änderungen an Chunking, Modell oder Prompt

Tag 2

Modul 5 Betrieb, Kosten und Datenschutz
  • Prompt-Caching, Batch-Verarbeitung und Modellwahl zur Kostensenkung
  • Latenz optimieren und Antworten streamen
  • Berechtigungen auf Dokumentebene, Mandantentrennung und Schutz vor Prompt Injection
  • Datenschutz: Datenresidenz, Auftragsverarbeitung, Löschkonzepte, DSGVO und EU AI Act
Modul 6 Praxislabor: Data Science & Machine Learning
  • Explorative Datenanalyse
  • Notebooks in Pipelines überführen
  • Modelltraining und Validierung
  • Experiment-Tracking und MLOps
  • Modelle erklären und prüfen
  • LLM- und RAG-Prototypen evaluieren
Modul 7 Datenschutz, Qualität & Transfer in den Alltag
  • Trainings- und Analysedaten enthalten häufig personenbezogene Informationen: Arbeiten Sie in Prompts mit Schemas, Aggregaten oder synthetischen Daten und beachten Sie DSGVO-Grundsätze wie Zweckbindung. Für Hochrisiko-Anwendungen stellt der EU AI Act Anforderungen an Datenqualität, Dokumentation und Transparenz; zudem sind Lizenzen von Datensätzen, vortrainierten Modellen und Python-Paketen zu prüfen.
  • Spielregeln für den sicheren KI-Einsatz im Team
  • Ergebnisse prüfen: Fakten, Quellen, Tests und Vier-Augen-Prinzip
  • Persönlicher Umsetzungsplan für die nächsten 30 Tage
  • Offene Fragen, Ausblick und Ressourcen zum Weiterlernen

Praxisszenarien aus Ihrem Bereich

Explorative Datenanalyse

Der Assistent erstellt Code für Datenprofile, Verteilungen, Korrelationen und fehlende Werte mit pandas oder Polars, erzeugt aussagekräftige Visualisierungen und fasst Auffälligkeiten als Hypothesen für die Modellierung zusammen.

Notebooks in Pipelines überführen

Der Agent refaktorisiert Notebook-Code in Python-Module mit Funktionen, Konfiguration und pytest-Tests, entfernt versteckte Zustände und macht Training und Inferenz reproduzierbar ausführbar. Ergebnisse lassen sich so verlässlich vergleichen.

Modelltraining und Validierung

Die KI baut scikit-learn-Pipelines oder PyTorch-Trainingsschleifen mit sauberer Kreuzvalidierung, passenden Metriken und Baselines und weist aktiv auf Risiken wie Data Leakage oder Klassenungleichgewicht hin. Ergebnisse werden stets gegen Baselines verglichen.

Experiment-Tracking und MLOps

Der Assistent richtet MLflow oder vergleichbare Werkzeuge für Parameter, Metriken und Artefakte ein, versioniert Modelle und erstellt Trainings- und Deployment-Workflows für die CI/CD-Pipeline. Experimente bleiben jederzeit nachvollziehbar.

Modelle erklären und prüfen

Mit SHAP, Permutation Importance oder Partial Dependence Plots entstehen Erklärungen für Modellentscheidungen sowie Auswertungen zu Fairness und Robustheit über relevante Untergruppen hinweg. Fachbereiche erhalten verständliche Erläuterungen.

LLM- und RAG-Prototypen evaluieren

Die KI hilft beim Aufbau von Evaluationsdatensätzen, automatisierten Bewertungsmetriken und Vergleichsexperimenten für Prompt-Varianten, Embedding-Modelle oder Retrieval-Strategien. So lassen sich Qualität, Kosten und Latenz verschiedener Varianten objektiv gegenüberstellen und dokumentieren.

Mögliche Praxisprojekte im Kurs

Churn-Prognose mit Erklärungen

Ein vollständiges Projekt von der Datenaufbereitung über ein Gradient-Boosting-Modell bis zu einer kleinen Streamlit-App, die Prognosen und SHAP-Erklärungen anzeigt. Ideal, um den gesamten ML-Workflow mit KI zu üben.

Modell-Monitoring-Skript

Ein Skript, das Daten- und Vorhersageverteilungen über die Zeit vergleicht, Drift erkennt und einen kompakten Bericht mit Grafiken erzeugt. Bei Auffälligkeiten wird automatisch das Team benachrichtigt.

Evaluations-Harness für einen RAG-Chatbot

Ein Testaufbau mit Fragensammlung, Referenzantworten und automatischer Bewertung, der verschiedene Retrieval- und Prompt-Konfigurationen vergleicht. Die Ergebnisse werden pro Konfiguration in einer übersichtlichen Tabelle mit Kennzahlen zusammengefasst.

Voraussetzungen

Solide Programmierkenntnisse in Python (oder alternativ TypeScript), Grundkenntnisse in Datenbanken und REST-APIs sowie erste Erfahrungen mit LLM-APIs. Gute Python-Kenntnisse, Erfahrung mit pandas oder Polars und scikit-learn sowie Grundlagen in Statistik und Machine Learning.

Technische Voraussetzungen

Laptop mit Python, Git, Docker und Code-Editor sowie API-Zugang zu mindestens einem LLM- und Embedding-Anbieter. Zugangsdaten für die Übungen können bei Bedarf gestellt werden.

Datenschutz & Compliance

Trainings- und Analysedaten enthalten häufig personenbezogene Informationen: Arbeiten Sie in Prompts mit Schemas, Aggregaten oder synthetischen Daten und beachten Sie DSGVO-Grundsätze wie Zweckbindung. Für Hochrisiko-Anwendungen stellt der EU AI Act Anforderungen an Datenqualität, Dokumentation und Transparenz; zudem sind Lizenzen von Datensätzen, vortrainierten Modellen und Python-Paketen zu prüfen.

Terminvorschläge

Alle Termine sind Vorschläge – Ihr Wunschtermin ist jederzeit möglich.

  • Mo, 23. November 2026 – Di, 24. November 2026 Online Anfragen
  • Do, 3. Dezember 2026 – Fr, 4. Dezember 2026 Kaiserslautern Anfragen
  • Mi, 9. Dezember 2026 – Do, 10. Dezember 2026 Online Anfragen
  • Mo, 14. Dezember 2026 – Di, 15. Dezember 2026 Bremen Anfragen
  • Mi, 13. Januar 2027 – Do, 14. Januar 2027 Online Anfragen
  • Mi, 20. Januar 2027 – Do, 21. Januar 2027 Salzburg Anfragen

Häufige Fragen

Wann ist RAG besser als Fine-Tuning?

RAG eignet sich, wenn ein Modell auf aktuelles, umfangreiches oder häufig wechselndes Wissen zugreifen und Quellen angeben soll. Fine-Tuning verändert eher Stil, Format oder spezialisiertes Verhalten. In vielen Projekten ist RAG der schnellere, günstigere und besser kontrollierbare Weg, gelegentlich ergänzt durch Fine-Tuning für Spezialaufgaben.

Welche Vektordatenbank sollten wir verwenden?

Das hängt von Datenmenge, bestehender Infrastruktur, Filteranforderungen und Betriebsmodell ab. Wer bereits PostgreSQL nutzt, kommt mit pgvector oft weit, spezialisierte Systeme punkten bei großen Datenmengen und hybrider Suche. Im Kurs vergleichen Sie mehrere Optionen praktisch und leiten Kriterien für Ihre Entscheidung ab.

Wie lässt sich RAG datenschutzkonform betreiben?

Wichtig sind die Wahl von Anbietern mit passender Datenresidenz und Auftragsverarbeitungsvertrag, Berechtigungsprüfungen auf Dokumentebene, ein Löschkonzept für Index und Logs sowie Datenminimierung bei personenbezogenen Inhalten. Für sensible Daten kommen auch selbst betriebene Modelle infrage. Wir behandeln diese Optionen anhand realistischer Architekturen.

Kann ich der KI bei statistischen Fragen vertrauen?

KI-Assistenten kennen gängige Verfahren sehr gut, machen aber gelegentlich methodische Fehler, etwa bei der Aufteilung von Trainings- und Testdaten oder der Wahl von Metriken. Im Kurs lernen Sie, die KI gezielt nach Annahmen und Risiken zu fragen, Ergebnisse mit Baselines und Sanity Checks zu prüfen und die fachliche Verantwortung bewusst bei sich zu behalten.

Funktioniert KI-gestütztes Coding auch in Jupyter-Notebooks?

Ja. Viele Assistenten unterstützen Notebooks direkt, Agenten können Notebooks zudem lesen, ausführen und in Module überführen. Wir zeigen, wann Notebooks für Exploration ideal sind und wie Sie den Übergang zu versioniertem, getestetem Code mit KI-Unterstützung effizient gestalten. Beides ergänzt sich sinnvoll.

Was kostet die Schulung „RAG & LLM-Apps für Data Scientists und ML-Engineers“?

Die Schulung kostet pauschal 949 € zzgl. gesetzl. MwSt. pro Teilnehmer:in – unabhängig davon, ob sie online oder vor Ort stattfindet. Enthalten sind 2 Trainingstag(e) mit Live-Trainer:in, Kursunterlagen, Übungsumgebung und Teilnahmebescheinigung.

Kann ich einen eigenen Wunschtermin angeben?

Ja. Unsere Terminvorschläge sind eine Orientierung. Im Anfrageformular können Sie jederzeit einen Wunschtermin oder Zeitraum im Freitext angeben – wir prüfen die Verfügbarkeit und bestätigen innerhalb eines Werktags.

Findet der Kurs online oder vor Ort statt?

Beides ist möglich: live online im virtuellen Klassenraum oder vor Ort in München, Salzburg, Berlin, Augsburg, Hannover, Bremen, Stuttgart oder Kaiserslautern. Auf Wunsch führen wir das Training auch exklusiv für Ihr Team durch.

Weitere Kurse für Data Scientists und ML-Engineers

Weitere Kurse zu RAG & LLM-Apps

Alle 29 Kurse zu RAG & LLM-Apps

RAG & LLM-Apps · MünchenRAG & LLM-Apps · SalzburgRAG & LLM-Apps · BerlinRAG & LLM-Apps · AugsburgRAG & LLM-Apps · HannoverRAG & LLM-Apps · BremenRAG & LLM-Apps · StuttgartRAG & LLM-Apps · KaiserslauternRAG & LLM-Apps · Online