KI & DevOps Architekt (m/w/d)

Telekom MMS; Rostock; Hybrid; EUR 60.000 - 85.000; Vollzeit

Benefits dieser Stelle

Welcome Day

Flexible Arbeitszeit

Mobile Working

Workation

Top Equipment

Weiterbildung

Altersvorsorge

Rabatte für Mitarbeitende

Zusammenfassung

Telekom MMS sucht eine KI- & DevOps-Architektur mit Leidenschaft für KI-Anwendungen. Du übersetzt B2B-Kundenanforderungen in skalierbare KI-Architekturen und leitest interdisziplinäre Entwickler-Teams.

Von der ersten Idee bis zum Rollout gestaltest du Lösungen aktiv mit und sorgst für sicheren, datenschutzkonformen Betrieb außerhalb der Hyperscaler. Du bringst umfangreiche Erfahrung in Python-LangChain oder Java/Spring AI, KI-Modelle, Kubernetes, IaC, CI/CD und Observability mit und trägst zum

Qualifikationen

• Abgeschlossenes Studium im IT-Bereich oder vergleichbare Ausbildung.
• Tiefgehende Programmierpraxis in Python-LangChain oder Java/Spring AI.
• Sehr gute Kenntnisse mit Open-Source-Sprachmodellen, vLLM und Retrieval-Augmented Generation (RAG).
• Erfahrung mit Kubernetes-Architektur, Containerisierung und Infrastruktur-Automatisierung.
• Souveräner Betrieb in souveränen Infrastrukturen (On-Premise/Open Telekom Cloud) und GPU-Deployment.
• Monitoring-Umgebungen (Prometheus/Grafana) und Observability für Systeme und KI-Modelle.

Aufgaben

• Architektur und Lösungsdesign basierend auf B2B-Anforderungen für skalierbare KI-Architekturen.
• Technische Leitung der KI-Projekte und fachliche Führung interdisziplinärer Teams.
• Hands-on Softwareentwicklung und direkte Umsetzung von KI-Anwendungen.
• Souveräner Betrieb inkl. sicherem Deployment in souveränen Infrastrukturen.
• Aufbau und Optimierung von LAG-/RAG-Pipelines inkl. Vektordatenbanken.
• Etablierung von DevOps, Automatisierung und Monitoring über den gesamten Lebenszyklus.

Kenntnisse

Python & LangChain

Java/Spring AI

LLMs & RAG

Kubernetes

DevOps & IaC

GPU Deployment

Monitoring (Prometheus Grafana)

Ausbildung

IT-bezogene Hochschule/Uniabschluss oder gleichwertige Ausbildung

Tools

Terraform

Ansible

ArgoCD

Qdrant

Milvus

pgvector

Jobbeschreibung

Entwicklung und Betrieb von KI-Anwendungen sind deine Leidenschaft? “You build it, you run it” ist dein Motto? Dann bewirb dich jetzt als KI & DevOps Architekt!

Jährlich mehr als 3.000 Kundenprojekte, 2.100 großartige Kolleg*innen, 10 attraktive Standorte – und mittendrin: Du. Mit der Telekom MMS gemeinsam für eine digitalisierte, zukunftsfähige und lebenswerte Welt. Dein Job. Für morgen. Und übermorgen.

Standorte: Berlin, Dresden, Leipzig, München, Rostock

Wochenarbeitszeit: Vollzeit 38 h/ Woche

Reiseanteil: gering

Sprachkenntnisse: verhandlungssicheres Deutsch und Englisch

Responsibilities

• Architektur & Lösungsdesign: Du übersetzt B2B-Kundenanforderungen in skalierbare KI-Architekturen (insbesondere für RAG-Chatbots) und verantwortest das Design von der ersten Idee bis zum Rollout
• Technische Leitung: Du übernimmst die technologische Steuerung der KI-Projekte, berätst unsere Kunden auf Augenhöhe und leitest interdisziplinäre Entwickler-Teams fachlich an
• Hands-on Lösungsentwicklung: Du gestaltest die Softwareentwicklung aktiv mit und bringst Deine tiefgreifende Programmiererfahrung direkt bei der Umsetzung der KI-Anwendungen ein
• Souveräner KI-Betrieb: Du konzipierst den sicheren und datenschutzkonformen Betrieb abseits der Hyperscaler (On-Premise oder Open Telekom Cloud) und verantwortest das Ressourcen-Management
• Modell-Evaluierung: Du bewertest kontinuierlich das Ökosystem der Open-Source-Sprachmodelle und wählst technologisch sowie wirtschaftlich fundiert die passenden Modelle für die Kunden-Use-Cases aus
• DevOps & Observability: Du verankerst moderne Automatisierungs- und Deployment-Praktiken im Projektalltag und etablierst ein durchgängiges Monitoring für Infrastruktur und Modell-Performance

Qualifications

• Abgeschlossenes Studium mit dem Schwerpunkt IT (z.B. Informatik, Wirtschaftsinformatik, Data Science, Mathematik) bzw. eine vergleichbare Ausbildung
• Softwareentwicklung & KI-Frameworks: Tiefgehende, praxiserprobte Programmiererfahrung wahlweise im Python-Ökosystem (inklusive LangChain) ODER in der Java-Entwicklung (speziell mit Spring AI)
• LLMs & RAG-Architekturen: Sehr gute Kenntnisse im Umgang mit Open-Source-Sprachmodellen, der Modell-Inference (vLLM) sowie dem Aufbau von Retrieval-Augmented Generation (RAG) Pipelines inklusive der Anbindung von Vektordatenbanken (z. B. Qdrant, Milvus oder pgvector)
• Kubernetes & Containerisierung: Fundierte Praxis in der Architektur, Skalierung und Optimierung von Applikationen auf Kubernetes-Clustern sowie im generellen Container-Management
• DevOps & Infrastruktur-Automatisierung: Sicherer Umgang mit Infrastructure as Code (z. B. Terraform, Ansible) sowie etablierte Erfahrung mit CI/CD-Pipelines und GitOps-Ansätzen (insbesondere ArgoCD)
• Souveräner Betrieb & Hardware: Praktische Erfahrung im GPU-Management und dem sicheren Deployment von Anwendungen in souveränen Infrastrukturen (On-Premise, Bare-Metal oder Open Telekom Cloud)
• Monitoring & Observability: Know‑how im Aufbau eines ganzheitlichen und performanten Monitorings sowohl für die Systeminfrastruktur (Prometheus, Grafana) als auch für die KI-Modelle (z. B. LangSmith)

Benefits

• Welcome Day – Ankommen und Netzwerken
• Flexibilität – flexible Arbeitszeit mit Überstundenausgleich
• Mobile Working – ortsungebundenes Arbeiten deutschlandweit möglich, mind. 1 Tag wöchentlich im Büro
• Workation – Arbeite bis zu 20 Tage im Jahr im EU-Ausland
• Top Equipment – moderne Arbeitsmittel, wie du sie brauchst
• Weiterentwicklung – über 100 Weiterbildungen und Schulungen im Angebot
• Betriebliche Altersvorsorge – wir legen was für dich zur Seite
• Vorteile für Mitarbeitende – Rabatte bei zahlreichen Anbietern und Partnerunternehmen
• Nachhaltigkeit – gemeinsam prägen wir das Leben und Arbeiten der Zukunft

Für diese Position sehen wir ein Bruttojahresgehalt in Höhe von 60.000,00€ bis 85.000,00€ vor. Die konkrete Einordnung erfolgt auf Basis objektiver und geschlechtsneutraler Kriterien, insbesondere der fachlichen Qualifikation, einschlägigen Berufserfahrung und des mit der Rolle verbundenen Verantwortungsumfangs.

Bei uns zählt der Mensch. Wir setzen uns aktiv für Entgeltgleichheit ein und gestalten unsere Vergütungsstrukturen transparent und diskriminierungsfrei. Unabhängig von Geschlecht, ethnischer Herkunft, Religion, Alter, sexueller Identität oder Behinderung leben wir Vielfalt und lehnen jede Form von Diskriminierung ab.