AI Platform Engineer

Guldberg GmbH; München; Vor Ort; EUR 60.000 - 80.000; Vollzeit

Zusammenfassung

Guldberg GmbH in München sucht einen erfahrenen Entwickler zur Weiterentwicklung einer AI Plattform auf Kubernetes. Sie werden für das Deployment und den Betrieb von Large Language Models verantwortlich sein und MLOps-Standards etablieren.

Die Rolle erfordert Expertise in der Containerisierung mit Docker und Kubernetes sowie Erfahrung mit Cloud-Systemen und DevOps-Praktiken. Sie arbeiten an der Automatisierung von Releases und der Optimierung von AI-Systemen.

Qualifikationen

• Erfahrung im Aufbau oder Betrieb von Cloud-, Plattform- oder Infrastruktur-Systemen.
• Gute Kenntnisse in Kubernetes und Container-Technologien.
• Erfahrung in MLOps/LLMOps und produktiven AI-Systemen.

Aufgaben

• Aufbau und Weiterentwicklung unserer AI Plattform auf Kubernetes.
• Deployment und Betrieb von Large Language Models auf GPU-Servern.
• Automatisierung von Infrastruktur-, Plattform- und Model-Releases.

Kenntnisse

Kubernetes

MLOps

Docker

Cloud-Systeme

APIs

CI/CD

Jobbeschreibung

• Aufbau und Weiterentwicklung unserer AI Plattform auf Kubernetes
• Deployment und Betrieb von Large Language Models (LLMs) auf GPU-Servern
• Aufbau und Betrieb performanter Model-Serving und Inference-Services
• Etablierung von MLOps-Standards und Betrieb und Weiterentwicklung der on-prem MLOps-Plattform (u.A. ClearML, OpenShift)
• Aufbau von LLMOps-Workflows für produktive GenAI-Services (Serving/Runtime-Konfiguration, Guardrails & Policies, Evaluierung/Regressionstests, Kosten- & Qualitäts-Monitoring)
• Containerisierung und Deployment von AI-Services mit Docker und Kubernetes
• Skalierung und Optimierung von GPU- und CPU-Workloads
• Entwicklung stabiler AI-APIs und Services für interne Anwendungen
• Aufbau von Monitoring, Logging und Observability für AI-Systeme
• Automatisierung von Infrastruktur-, Plattform- und Model-Releases (CI/CD, GitOps, Infrastructure-as-Code) inkl. sicherer Rollouts, Rollbacks und Standardisierung von Deployments
• Analyse und Optimierung von Performance, Skalierung und Stabilität
• Strukturierte, selbstständige Arbeitsweise und Freude daran, komplexe Systeme zu betreiben und zu verbessern
• Kommunikations- und Moderationsstärke im Austausch mit Fachbereichen und IT
• Erfahrung im Aufbau oder Betrieb von Cloud-, Plattform- oder Infrastruktur-Systemen
• Gute Kenntnisse in Kubernetes und Container-Technologien
• Erfahrung mit Microservices, APIs und verteilten Systemen
• Erfahrung in MLOps/LLMOps (Model-/Prompt-Lifecycle, Serving, Evaluierung, Monitoring) sowie an produktiven AI-Systemen
• Erfahrung mit DevOps-Praktiken wie CI/CD, GitOps, Infrastructure-as-Code und Betriebs-/Release-Prozessen von Vorteil
• Erfahrung mit GPU-Workloads oder High-Performance-Systemen von Vorteil