ML/AI Platform Engineer – LLMs, RAG & MLOps

SEADEV Studios; Rohrbachschlag; On-site; EUR 70,000 - 110,000; Full time

Job summary

SEADEV Studios sucht einen ML/AI Engineer zur Weiterentwicklung der souveränen KI-Plattform Habicht AI, vom Modell-Deployment bis zum Produktivbetrieb in unserer EU-Infrastruktur.

Sie arbeiten an Open-Weight-Modellen, RAG- und Agenten-Pipelines, bewerten Modelle in Bezug auf Qualität, Kosten und Latenz und sichern DSGVO- und EU AI Act-Konformität in enger Abstimmung mit Entwicklung, Vertrieb und Kundenprojekten.

Qualifications

• Mindestens 2 Jahre Erfahrung mit Machine Learning oder LLM-basierten Systemen.
• Sehr gute Python-Kenntnisse und Erfahrung mit PyTorch.
• Praxis in LLM-Serving (z. B. vLLM, Ollama) oder RAG-Pipelines.
• Erfahrung mit Self-Hosting von Open-Weight-Modellen auf eigener GPU-Infrastruktur.
• Verständnis von DSGVO und EU AI Act im KI-Kontext.
• Sehr gute Deutsch- und Englischkenntnisse in Wort und Schrift.
• Erfahrung mit MLOps, Kubernetes und GPU-Scheduling.
• Kenntnisse in Vektordatenbanken wie Qdrant oder pgvector.
• Kenntnisse im Fine-Tuning, LoRA oder Quantisierung.
• Erfahrung mit Agenten-Frameworks und MCP.
• Kenntnisse in LLM-Observability, z. B. OpenTelemetry.

Responsibilities

• Weiterentwicklung unserer KI-Plattform Habicht AI.
• Deployment und Betrieb von Open-Weight-Modellen in unserer EU-Infrastruktur.
• Aufbau von RAG- und Agenten-Pipelines für Kundenprojekte.
• Evaluierung neuer Modelle sowie Benchmarking von Qualität, Kosten und Latenz.
• Performance- und Kostenoptimierung von Inferenz-Workloads.
• Umsetzung von Compliance-Anforderungen aus DSGVO und EU AI Act.
• Enge Zusammenarbeit mit Entwicklung, Vertrieb und Kundenprojekten.

Skills

Python-Programmierung

PyTorch

LLM-basierte Systeme

LLM-Serving

RAG-Pipelines

Kommunikationsfähigkeiten

Deutsch & Englisch

Self-Hosting von Open-Weight-Modellen

Fine-Tuning, LoRA oder Quantisierung

MLOps

Kubernetes

GPU-Scheduling

Vektordatenbanken (Qdrant/pgvector)

Agenten-Frameworks

Model Context Protocol (MCP)

LLM-Observability/OpenTelemetry

EU-DSGVO/EU AI Act Kenntnisse

Education

Abgeschlossenes Studium im IT-Bereich oder vergleichbare Praxiserfahrung

Tools

vLLM

Ollama

Qdrant

pgvector

MCP

OpenTelemetry

Kubernetes

Job description

SEADEV Studios sucht einen ML/AI Engineer zur Weiterentwicklung der souveränen KI-Plattform Habicht AI, vom Modell-Deployment bis zum Produktivbetrieb in unserer EU-Infrastruktur.

Sie arbeiten an Open-Weight-Modellen, RAG- und Agenten-Pipelines, bewerten Modelle in Bezug auf Qualität, Kosten und Latenz und sichern DSGVO- und EU AI Act-Konformität in enger Abstimmung mit Entwicklung, Vertrieb und Kundenprojekten.