AI DevOps Engineer * (all Levels)

UNITY Consulting & Innovation; Büren; Hybrid; EUR 80,000 - 120,000; Full time

Benefits offered by this job

Ideenfreiheit

Flexible Arbeitsmodelle

Sabbaticals

Coaching & UNITYacademy

JobRad & UrbanSports

Job summary

UNITY ist eine Managementberatung für Innovation und digitale Transformation. Wir suchen Verstärkung im UNITY AI Booster Team, das KI-Lösungen von der Entwicklung bis zum Betrieb realisiert.

Du bringst Erfahrung in DevOps, Cloud, IaC und Python mit und arbeitest eng mit Consultants zusammen. Du bist Teil eines Teams, das LLM-/Agentic-AI-Systeme betreibt, skaliert, absichert und gemeinsam mit Kunden Architekturen gestaltet.

Qualifications

• Mehrjährige Erfahrung in Entwicklung und Betrieb von Software.
• Fundierte DevOps-Kenntnisse, Containerisierung und Kubernetes.
• Kenntnisse in Cloud-Umgebungen (AWS/Azure/GCP) und CI/CD.
• Erfahrung mit Infrastructure as Code und MLOps-/LLMOps-Praxis.
• Sprachen: Deutsch C1, Englisch B2; Kundensprache OK.

Responsibilities

• Infrastruktur für produktive KI-Anwendungen bauen und betreiben – Dev-Umgebung bis stabiler Betrieb.
• Inferenz- und Model-Serving-Endpunkte, Vektordatenbanken, RAG-Pipelines betreiben.
• Observability, Latenzen und Kosten überwachen, automatisierte Tests sicherstellen.
• Automatisierung via IaC, GitOps, containerisierte Deployments.
• Kundenarchitektur beraten als technischer Sparringspartner.

Skills

DevOps-Basis

Container/Kubernetes

CI/CD

Cloud-Erfahrung

Infrastructure as Code

Python

LLM/AI-Systeme Grundverständnis

Deutsch C1

Englisch B2

Teamkommunikation

Education

Wirtschaftsinformatik / Data Science / KI-Studium

Tools

Terraform

Ansible

Helm

GitOps

Job description

Vollzeit oder Teilzeit (32–40 Std./Woche) | ab sofort | deutschlandweit, hybrid oder remote

Deine RAG-Pipeline läuft im Notebook, aber niemand hat sie in Produktion gebracht? Genau das lösen wir. Das UNITY AI Booster Team bringt LLM- und Agentic-AI-Systeme unserer Kunden zuverlässig, sicher und wirtschaftlich live.

Das UNITY AI Booster Team

Das UNITY AI Booster Team ist UNITYs Entwicklereinheit für die Entwicklung und Implementierung von KI-Lösungen in den Geschäftsprozessen unserer Kunden. Wir entwickeln Lösungen mit hoher Technologiebandbreite, von Machine Learning Use Cases, LLM Use Cases oder eigenen Agentenplattformen. Anders als unsere Consultants sind wir näher am Code: Wir arbeiten im Projekt mit den Consultants zusammen, bauen und betreiben aber die technische Plattform dahinter.

Das erwartet dich

Infrastruktur Für Produktive KI-Anwendungen Bauen Und Betreiben – Von Der Dev-Umgebung Über CI/CD Bis Zum Stabilen Betrieb Beim Kunden Und Außerdem

• LLM- und Agentic-AI-Systeme in Betrieb bringen: Inferenz- und Model-Serving-Endpunkte, Vektordatenbanken, RAG-Pipelines, MCP-Server – skalierbar, sicher, kostenbewusst.
• Observability und Qualität verantworten: Latenzen, Token- und Infrastrukturkosten, Agenten-Tracing, automatisierte Eval- und Regressionstests.
• Konsequent automatisieren statt Handarbeit: Infrastructure as Code, GitOps, containerisierte, reproduzierbare Deployments.
• Sicherheit und Compliance sicherstellen: Secrets- und Zugriffsmanagement, Guardrails, Nachvollziehbarkeit nach EU AI Act.
• Kunden bei Architektur- und Betriebsentscheidungen beraten – als technischer Sparringspartner*, nicht als Kundenmanager*.

Was du hier lernst

• MLOps-/LLMOps-Patterns im echten Kundenbetrieb statt im Lehrbuch.
• Wie man KI-Systeme so baut, dass sie den EU AI Act überstehen, statt ihn nachträglich zu reparieren.
• Den Sprung vom PoC zur produktiven, kosten- und latenzbewussten Plattform.

Das bringst du mit

• Mehrjährige Erfahrung in Entwicklung und Betrieb von Software.
  • Senior-Rolle: mehrjährige Praxis im Design und Betrieb produktiver Systeme
• Solide DevOps-Basis: Container/Kubernetes, CI/CD, agiles Entwicklungsumfeld.
• Cloud-Erfahrung (AWS, Azure oder GCP), Deployment als Container, API oder Serverless.
• Praxis mit Infrastructure as Code (z. B. Terraform, Ansible, Helm oder GitOps).
• Python plus mindestens eine weitere Sprache (Go, TypeScript/JavaScript, Java, C# oder Shell).
• Grundverständnis von LLM-Systemen: RAG-Architekturen, Prompting, Agenten-Frameworks (z. B. LangChain, LangGraph, AutoGen, CrewAI).
• Deutsch ab C1, Englisch ab B2 – sicher im Kundenkontakt, auch mal einen Workshop leiten.
• Studienabschluss in (Wirtschafts-)Informatik, Data Science, KI oder vergleichbar – oder gleichwertige Praxis als Quereinsteiger* z. B. mit einer abgeschlossenen Ausbildung als Fachinformatiker * Systemintegration.

Idealerweise Bringst Du Zusätzlich Mit

• MLOps-/LLMOps-Praxis inkl. Evaluation von LLM-Pipelines.
• AI-Observability-Tools (Langfuse, LangSmith, Arize, OpenTelemetry-basiert).
• Vektordatenbanken (Elasticsearch, pgvector, Qdrant o. ä.) und MCP (Model Context Protocol).
• Model Serving/GPU-Betrieb (vLLM, Ray, KServe, Triton), FinOps für KI-Workloads.
• Eigene Open-Source-Projekte oder Community-Beiträge.
• Bereitschaft zu gelegentlichem Bereitschaftsdienst (nur tagsüber, vergütet).

Für Wen Das Hier Nichts Ist

• Wer beim PoC aufhört und Produktionsbetrieb für das Problem von jemand anderem hält.
• Wer Kundenkontakt komplett vermeiden will – ihr sprecht mit IT-Verantwortlichen auf Augenhöhe, das gehört dazu.
• Wer lieber Tools evaluiert, als Systeme zu verantworten, die nachts nicht ausfallen dürfen.

Das bieten wir dir & über uns

Verwirkliche mit uns deine Big Five for Life** in einer Kultur, die geprägt ist von Vertrauen, Authentizität und Zusammenhalt.

Benefits, Über Die Du Dich Bald Freuen Kannst

• Verwirklichung eigener Ideen sowie unternehmerischer Freiraum
• Flexible Arbeitsmodelle (u. a. HomeOffice Möglichkeit)
• Sabbaticals
• Persönliches Coaching, Mentoring & UNITYacademy
• JobRad, UrbanSports uvm.

Über uns

UNITY ist die Managementberatung für Innovation und digitale Transformation. Dabei setzen wir insbesondere auf Künstliche Intelligenz als Schlüsseltechnologie für Effizienz und Wachstum. Mit 380 Mitarbeitern sind wir weltweit an 15 Standorten vertreten und führen rund um den Globus Kundenprojekte durch.

Unsere Standorte,

• UNITY lebt Vielfalt und Chancengleichheit. Bei uns ist jeder unabhängig von Herkunft, Geschlecht, sexueller Orientierung, Handicap, Religion und Alter willkommen.
• Die Big5forLife sind ein Coaching-Impuls aus dem Bereich der individuellen Visions-Bildung von John Strelecky.

Dein persönlicher Kontakt

Bei Fragen zu deiner Bewerbung melde dich gerne bei Markus (Candidate Experience Manager).

Du hast fachliche Fragen? Dann freut sich Moritz (Head of AI Development) auf deine Kontaktaufnahme.