Senior Consultant MLOps Engineering (m/w/d)

Comma Soft AG; United States; Hybrid; USD 140,000 - 190,000; Full time

Job summary

Comma Soft AG in Bonn und bei Kunden weltweit sucht eine erfahrene MLOps-Architektin bzw. einen Architekten. Sie gestalten Infrastrukturen, automatisieren End-to-End-Lifecycles von ML-Modellen und integrieren Tools wie Kubeflow, MLflow und Argo CD in robuste CI/CD-Pipelines.

Sie arbeiten eng mit Data-Science-Teams, DevOps, IT-Betrieb und Security zusammen und bringen tiefes Verständnis von Kubernetes, Terraform und Cloud-Plattformen mit. Attraktives Travel-Setup möglich.

Qualifications

• Masterstudium oder Promotion erfolgreich abgeschlossen.
• Mindestens 4 Jahre relevante Berufserfahrung, ideal als Senior Consultant.
• Sehr gute Python-Kenntnisse und Automatisierungserfahrung.
• Sicheres Bash-/Shell-Scripting, CI/CD-Konzepte.
• Erfahrung mit Ruby/Go/Rust ist plus, aber kein Muss.
• Fundierte Docker-Containerisierung und Kubernetes-Kenntnisse.
• Ausgeprägtes Verständnis von Kubeflow/MLflow; Kenntnisse in SageMaker/Azure ML vorteilhaft.
• Erfahrung mit GitLab CI/CD, GitHub Actions oder Jenkins.
• Kenntnisse in GitOps (Argo CD/FluxCD) und Infrastructure as Code (Terraform/Ansible).
• Helm-Charts; Cloud-Plattformen (AWS/Azure/GCP) und deren Kubernetes-Angebote.
• Monitoring mit Prometheus/Grafana oder ELK-Stapeln.
• Deutsch und Englisch sicher kommunizieren; Bereitschaft zu flexiblem Mix aus Homeoffice, Bonn-Standort und Kundeneinsätzen.

Responsibilities

• Technische Konzeption und Umsetzung von MLOps-Infrastrukturen und Automatisierungslösungen.
• Aufbau von Plattformen und Pipelines, Konfiguration von Tools (IaC, CI/CD).
• Unterstützung von Data-Science-Teams beim Deployment von Modellen in Produktion.
• Schnittstelle zwischen Data Science, DevOps, IT-Betrieb und Security zur Anforderungsklärung.
• Entwurf und Betrieb von MLOps-Plattformen basierend auf Kubeflow/Kubernetes.
• Skalierbares Deployment von ML-Modellen und Automatisierung von Workflows.
• CICD-Integration von ML-Workflows (GitLab CI/CD, GitHub Actions).
• GitOps-Praktiken mit Argo CD/FluxCD implementieren und betreiben.
• Monitoring/Logging-Lösungen (Prometheus, Grafana, ELK) implementieren und betreiben.
• DevSecOps-Prozesse vorantreiben (Container-Scanning, Secrets, Zugriffskontrollen).

Skills

Python programmieren

Bash scripting

Docker

Kubernetes

Kubeflow

MLflow

Argo CD

FluxCD

Terraform

Ansible

Helm

GitLab CI/CD

GitHub Actions

Jenkins

Prometheus

Grafana

ELK

AWS/Azure/GCP

SageMaker/Azure ML

Deutsch/Englisch

Education

Masterstudium

Promotion

Tools

Kubeflow

MLflow

Argo CD

FluxCD

Terraform

Ansible

Helm

Docker

Kubernetes

SageMaker

AWS

Azure

GCP

GitLab CI/CD

GitHub Actions

Jenkins

Prometheus

Grafana

ELK

Job description

Worum es geht

Je nach Bedarf im Kundenprojekt übernimmst du mehrere Rollen:

• Als technische/r Experte/in / Architekt:in für MLOps bist du der/die primäre Ansprechpartner:in für die technische Konzeption und Umsetzung der MLOps-Infrastrukturen und Automatisierungslösungen
• Als Implementierer / Engineer baust du Plattformen und Pipelines auf, konfigurierst Tools und schreibst den notwendigen Code (IaC, CI/CD-Konfigurationen, Automatisierungsskripte)
• Als Enabler / Unterstützer hilfst du Data Science Teams und anderen Stakeholdern bei unseren Kunden, die MLOps-Plattformen und -Prozesse effektiv zu nutzen und ihre Machine Learning Modelle erfolgreich in Produktion zu bringen
• An der Schnittstelle zwischen Data Science, Softwareentwicklung (DevOps), IT-Betrieb und ggf. Security stimmst du technische Anforderungen ab, um Lösungen zu integrieren

Deine Aufgaben

• Du behältst den Überblick über aktuelle Technologien und bewertest neue Entwicklungen im Bereich MLOps und DevOps
• Du konzipierst, entwickelst und wartest MLOps-Plattformen – einschließlich dem Design der technischen Infrastruktur und Toolchains (z. B. basierend auf Kubeflow und Kubernetes) – zur Unterstützung und Automatisierung des gesamten Machine Learning Lifecycles
• Du unterstützt beim skalierbaren Deployment von Machine Learning Modellen und automatisierst deren Workflows durch CI/CD-Pipelines (z. B. mit GitLab CI/CD oder GitHub Actions) – inklusive Troubleshooting und technischem Support
• Du integrierst und betreibst zentrale MLOps-Tools wie MLflow für Experiment Tracking, Model Registry und Deployment – und bindest sie nahtlos in CI/CD-Prozesse ein
• Du implementierst GitOps-Praktiken (z. B. mit Argo CD) für die automatisierte Auslieferung von Infrastruktur- und Applikationskomponenten
• Du baust Monitoring- und Logging-Lösungen zur Überwachung der Plattform, der Pipeline-Ausführungen sowie des Verhaltens produktiver Machine Learning Modelle auf und entwickelst sie weiter
• Du gestaltest DevSecOps-Prozesse aktiv mit – inklusive Container-Scanning, Secret Management und Zugriffskontrollen – und arbeitest dabei eng mit unseren Security‑Teams zusammen, um Sicherheit nahtlos in automatisierte Prozesse zu integrieren

Das begeistert dich

• Du hast dein Masterstudium oder deine Promotion in einem der MINT-Fächer erfolgreich abgeschlossen
• Du verfügst über mindestens 4 Jahre relevante Berufserfahrung, idealerweise als (Senior) Consultant bei einer IT-Beratung
• Du beherrschst Python sehr gut und nutzt es regelmäßig für Automatisierungen und zur Integration von Machine-Learning-Komponenten
• Du arbeitest sicher mit Bash- bzw. Shell‑Skripting, insbesondere im Kontext von CI/CD‑Pipelines und Infrastrukturaufgaben
• Du hast idealerweise erste Erfahrungen mit Ruby, Go oder Rust – das ist ein Plus, aber kein Muss
• Du verfügst über ein tiefes Verständnis von Containerisierung mit Docker und kannst komplexe Container‑Umgebungen selbstständig aufsetzen und betreiben
• Du kennst dich sehr gut mit Kubernetes aus – inklusive Administration, Netzwerk‑Architekturen und Security Policies
• Du hast Erfahrung mit MLOps‑Plattformen wie Kubeflow und MLflow. Wenn du dich auch mit SageMaker, Azure ML oder ähnlichen Lösungen auskennst, ist das von Vorteil
• Du bist vertraut mit CI/CD‑Tools wie GitLab CI/CD, GitHub Actions oder Jenkins und weißt, wie man damit automatisierte Deployments umsetzt
• Du hast ein grundlegendes Verständnis von GitOps‑Ansätzen und kennst Tools wie Argo CD oder FluxCD
• Du arbeitest routiniert mit Infrastructure as Code, insbesondere mit Terraform und Ansible. Auch Helm‑Charts für Kubernetes‑Deployments gehören zu deinem Repertoire
• Du bringst fundierte Erfahrung mit mindestens einer großen Cloud‑Plattform mit – z. B. AWS, Azure oder Google Cloud (GCP) – und kennst deren Kubernetes‑Angebote (EKS, AKS, GKE) sowie relevante ML‑ und DevOps‑Services
• Du richtest Monitoring‑ und Logging‑Lösungen wie Prometheus, Grafana oder den ELK‑Stack (oder Alternativen) selbstständig ein und nutzt sie aktiv zur Systemüberwachung und Fehleranalyse
• Du kommunizierst überzeugend und effizient in deutscher und englischer Sprache
• Du hast Spaß daran, in einem flexiblen Mix aus Homeoffice, an unserem Standort in Bonn und bei Kunden vor Ort zu arbeiten

Warum wir?

• Mit deinem Team stehst du unseren Kunden zur Seite und hilfst ihnen dabei, ihre Daten zu verstehen und die Erkenntnisse daraus gewinnbringend zu nutzen
• Kundenprojekte nach dem Fließbandprinzip sind nicht unser Ding: Du arbeitest durchschnittlich an mindestens zwei Kundenprojekten gleichzeitig, sodass du dich intensiv mit den Anforderungen beschäftigen kannst und siehst, wie deine Lösungen ihre Wirkung entfalten
• Abwechslung im Arbeitsalltag bringt die Vielfalt unserer Kunden aller Branchen, vom großen Mittelstand bis zum DAX‑Konzern
• Mit deinen zukünftigen Kolleg:innen tauschst du dich fachlich auf Augenhöhe aus und erhältst Budget und Zeit für eure eigenen