Sovereign AI Plattform Engineer (m/w/d/x)

T-Systems International; Hamburg; Hybrid; EUR 90.000 - 110.000; Vollzeit

Benefits dieser Stelle

Flexible Arbeitszeiten

Mobiles Arbeiten / hybrides Modell

Weiterbildungsmöglichkeiten

Betriebliche Altersvorsorge

Jobticket

Zusammenfassung

T-Systems International GmbH sucht einen erfahrenen Platform Engineer, der eine sichere KI‑Toolchain in isolierten Umgebungen entwickelt, implementiert und betreibt. Sie arbeiten an Kubernetes‑Plattformen für KI‑Inferenz, Modell Serving und spezialisierte Anwendungen.

Zu Ihren Aufgaben gehören Infrastruktur‑Automatisierung, GitOps, Private Registries und Ressourcenoptimierung, um Sicherheit, Auditierbarkeit und Datensouveränität sicherzustellen. Eine hybride Arbeitsweise wird angeboten.

Qualifikationen

• Mindestens fünf Jahre Erfahrung im Platform Engineering, DevOps, SRE oder MLOps.
• Sehr gute Kubernetes- und Linux-Kenntnisse.
• Erfahrung mit KI‑Infrastrukturen, Model Serving und LLm-basierten Anwendungen.
• Erfahrung mit privaten, On‑Premises‑ oder isolierten Deployment‑Umgebungen.
• Gute Kenntnisse in Python, Terraform, Ansible, Helm und GitOps.
• Fundierte Kenntnisse in Netzwerk, Storage, Zugriffskontrolle und Monitoring.
• Erfahrung mit GPU‑gestützten Plattformen und Optimierung von KI‑Workloads.
• Sehr gutes Verständnis von IT‑Sicherheit, Datensouveränität und auditierbaren Betriebsmodellen.
• Sehr gute Deutschkenntnisse in Wort und Schrift (C1).

Aufgaben

• Kubernetes‑basierte Plattformen für KI‑Inferenz, Retrieval, Experimente und agentenbasierte Anwendungen gestalten.
• Open‑Source‑Modelle, Model Serving, Gates, Vektordatenbanken integrieren und betreiben.
• Infrastructure as Code, GitOps und automatisierte Deployments für stabile Umgebungen schaffen.
• Private Registries, Repositories, Secrets, Zugriffsrechte, Storage und Observability verwalten.
• Ressourcen für GPU/CPU/Storage optimieren und Sicherheits-/Audit‑Anforderungen sicherstellen.

Kenntnisse

Platform Engineering

DevOps

MLOps

Kubernetes

Linux

Model Serving

LLM‑basierte Anwendungen

Private Deployments

Python

Terraform

Ansible

Helm

GitOps

Netzwerk

Storage

Monitoring

IT‑Sicherheit

Tools

Argo CD

Private Registries

Qdrant

llama.cpp

Jobbeschreibung

Über T-Systems International GmbH

Bei T-Systems bieten wir unseren Geschäftskunden die richtigen Systemlösungen für ihr digitales Business. Mit unserem Portfolio stellen wir sicher, dass digitale Transformation Komplexität reduziert, Kosten einspart und die alltägliche Arbeit erleichtert. Unsere Schwerpunkte sind Konnektivität, Digital, Cloud & Infrastruktur sowie Sicherheit – Let's power higher performance!

Über die Position

Als Platform Engineer mit Schwerpunkt Sovereign AI entwickeln, implementieren und betreiben Sie eine sichere und leistungsfähige KI-Toolchain für den Einsatz in isolierten oder besonders geschützten IT-Umgebungen.

Sie gestalten Kubernetes-basierte Plattformen für KI-Inferenz, Retrieval, Experimente und agentenbasierte Anwendungen. Dabei integrieren und betreiben Sie Open-Source- und Open-Weight-Modelle, Model-Serving-Lösungen, Model Gateways, Vektordatenbanken sowie interne Benutzeroberflächen und Schnittstellen.

Mit Infrastructure as Code, GitOps und automatisierten Deployment-Prozessen schaffen Sie stabile, reproduzierbare und auditierbare Plattformumgebungen. Sie verwalten private Registries, lokale Paket- und Modell-Repositories, Secrets, Zugriffsrechte, Storage, Netzwerkkomponenten und Observability-Lösungen in Umgebungen mit eingeschränkter oder vollständig unterbundener Anbindung an öffentliche Cloud-Dienste.

Darüber hinaus optimieren Sie GPU-, CPU-, Storage- und Netzwerkressourcen für zuverlässige KI-Workloads und stellen sicher, dass Sicherheits-, Audit- und Datensouveränitätsanforderungen eingehalten werden.

Must-have-Kenntnisse

• Mindestens fünf Jahre Erfahrung im Platform Engineering, DevOps, Site Reliability Engineering oder MLOps
• Sehr gute Kenntnisse in Kubernetes und Linux
• Erfahrung mit KI-Infrastrukturen, Model Serving und LLM-basierten Anwendungen
• Erfahrung mit privaten, On-Premises- oder isolierten Deployment-Umgebungen
• Gute Kenntnisse in Python, Terraform, Ansible, Helm und GitOps
• Fundierte Kenntnisse in den Bereichen Netzwerk, Storage, Zugriffskontrolle und Monitoring
• Erfahrung mit GPU-gestützten Plattformen und der Optimierung von KI-Workloads
• Sehr gutes Verständnis von IT-Sicherheit, Datensouveränität und auditierbaren Betriebsmodellen
• Sehr gute Deutschkenntnisse in Wort und Schrift auf C1-Niveau

Nice-to-have-Kenntnisse

• Erfahrung mit vLLM, Ollama, llama.cpp oder vergleichbaren Model-Serving-Lösungen
• Kenntnisse im Umgang mit Open-Source- oder Open-Weight-Modellen
• Erfahrung mit Vektordatenbanken wie Qdrant und Retrieval-Augmented Generation
• Kenntnisse in Argo CD, privaten Registries und lokalen Paket- oder Modell-Repositories
• Erfahrung mit Open WebUI oder vergleichbaren internen KI-Oberflächen
• Kenntnisse in GPU-Scheduling, LLMOps, Observability und Air-Gap-Umgebungen
• Erfahrung mit VS-Code-kompatiblen Integrationen und internen KI-Schnittstellen

Was Sie erwartet

Sie gestalten eine souveräne KI-Plattform für den sicheren Betrieb moderner Large Language Models in isolierten und besonders geschützten IT-Umgebungen.

Dabei arbeiten Sie mit Kubernetes, Open-Source- und Open-Weight-Modellen, GPU-gestützten Infrastrukturen, Model Serving, Retrieval, GitOps und Infrastructure as Code. Sie schaffen stabile, reproduzierbare und auditierbare Plattformen und leisten einen wesentlichen Beitrag zu Datensouveränität, Sicherheit und technologischer Unabhängigkeit.

Was wir bieten

Flexibilität und Work-Life-Balance: Profitieren Sie von flexiblen Arbeitszeiten, der Möglichkeit zum mobilen Arbeiten und einem hybriden Arbeitsmodell.

Attraktive Vergütung: Ein wettbewerbsfähiges Gehaltspaket, das Ihre Expertise und Leistung honoriert.

Entwicklungsmöglichkeiten: Zugang zu umfangreichen Weiterbildungsangeboten, Schulungen und Karriereentwicklungsprogrammen.

Modernes Arbeitsumfeld: Arbeiten Sie in einer modernen Ausstattung mit den neuesten Technologien und Tools.

Starke Unternehmenskultur: Eine offene und kollegiale Arbeitsatmosphäre, in der Teamarbeit und gegenseitige Unterstützung großgeschrieben werden.

Gesundheit und Wohlbefinden: Angebote zur Gesundheitsförderung und Initiativen, die Ihr Wohlbefinden unterstützen.

Zusatzleistungen: Diverse Benefits wie betriebliche Altersvorsorge, Mitarbeiterrabatte und Jobticket-Optionen.

Diese Position ist auch in Teilzeit zu besetzen.

Menschen mit Behinderung werden bei gleicher Eignung bevorzugt berücksichtigt.