MLOps in der Praxis: Deployment und Integration von Machine-Learning-Modellen

1. MLOps – was es ist und warum es ohne nicht geht

• Wenn es ernst wird mit Machine-Learning-Projekten
• Domänenwissen und Herausforderungen
• Der MLOps-Zyklus im Überblick
• MLOps ist mehr als DevOps
• Die MLOps-Reifegradstufen

2. Datenversionierung und Experiment Tracking

• Grundlagen und Vorteile von Code- und Datenversionierung
• Einführung in DVC
• Übung: Datenversionierung mit DVC
• Übung: Experiment Tracking mit DVC

3. Data Pipeline Orchestration

• Grundlagen und Vorteile von Daten-Pipelines
• Einführung in Dagster
• Übung: Asset Jobs mit Dagster
• Übung: Op Jobs mit Dagster

4. Experiment Tracking

• Parameter, Metriken und Artefakte
• Grundlagen und Vorteile von Experiment Tracking
• Experiment Tracking mit MLflow
• Übung: Experiment Tracking mit MLflow
• Übung: Model Management mit MLflow

5. CI/CD für Machine Learning

• Einführung in CI/CD, Abgrenzung von CI/CD für Code
• Was können wir alles testen?
• Varianten von CI/CD für ML-Produkte
• Showcase: Github Actions und CML

6. Deployment und Serving

• Grundlagen des Machine-Learning-Deployments
• Unterscheidung Batch-Inferenz und Live-Inferenz
• Datenvorverarbeitung im Deployment
• Einführung in Open Neural Network Exchange (ONNX)
• Übung: FastAPI und ONNX

7. Monitoring

• Monitoring von ML-Modellen
• Daten, Metriken, KPIs
• Anwendungsmetriken
• Showcase: Monitoring mit evidently.ai

8. MLOps in der Cloud

• Wann sind Cloud-Lösungen empfehlenswert?
• Einordnung Amazon Sagemaker, Azure ML Studio und Google Vertex AI
• Showcase: Model Training mit Azure ML Studio

9. Machine-Learning-Plattformen

• Wie und wann skaliere ich die Entwicklung meiner ML-Teams?
• Was ist ein Feature Store?

10. Exkurs: LLMOps

• Was unterscheidet LLMOps von MLOps?
• Showcase: companyGPT