Sovereign AI Plattform Engineer (m/w/d/x)

T-Systems International; München; Hybrid; EUR 90.000 - 135.000; Vollzeit

Benefits dieser Stelle

Betriebliche Altersvorsorge

Mitarbeiterrabatte

Jobticket

Flexible Arbeitszeiten

Zusammenfassung

T-Systems International GmbH sucht eine erfahrene Platform Engineer mit Fokus Sovereign AI zur Entwicklung, Implementierung und dem Betrieb einer sicheren KI-Toolchain. Sie arbeiten an Kubernetes-basierten Plattformen für Inferenz, Retrieval, Experimente und modelbasierte Anwendungen.

Sie gestalten Infrastruktur mit IaC, GitOps und automatisierten Deployments, verwalten Private Registries, Repos und Observability, und optimieren Ressourcen für zuverlässige KI-Workloads in isolierten Umgebungen.

Qualifikationen

• Mindestens fünf Jahre Erfahrung im Platform Engineering, DevOps, SRE oder MLOps.
• Sehr gute Kubernetes- und Linux-Kenntnisse.
• Erfahrung mit KI-Infrastruktur, Model Serving und LLMS.
• Erfahrung mit privaten, On-Premises oder isolierten Deployments.
• Fundierte Kenntnisse in Python, Terraform, Ansible, Helm und GitOps.
• Kenntnisse in Netzwerk, Storage, Zugriffskontrolle und Monitoring
• Erfahrung mit GPU-Plattformen und Optimierung von KI-Workloads
• Sehr gutes Verständnis von IT-Sicherheit, Datensouveränität und auditierbaren Betriebsmodellen
• Sehr gute Deutschkenntnisse (C1)

Aufgaben

• Entwerfen, implementieren und betreiben einer souveränen KI-Plattform in isolierten Umgebungen.
• Aufbau von Kubernetes-basierten Plattformen für KI-Inferenz, Retrieval und Experimente.
• Integrieren von Open-Source- und Open-Weight-Modellen sowie Model Serving-Lösungen.
• Verwalten IaC, GitOps, Deployments, Secrets, Registries, Storage und Netzwerkkomponenten.
• Überwachen, optimieren und sichern Ressourcen für stabile KI-Workloads.
• Gewährleisten Datensouveränität, Auditierbarkeit und Sicherheitsanforderungen.

Kenntnisse

Kubernetes

Linux

AI-Infrastruktur

Model Serving

On-Prem Deployment

Python

Terraform

Ansible

Helm

GitOps

Netzwerk

Storage

Monitoring

GPU-Plattformen

IT-Sicherheit

Deutsch (C1)

Tools

Open-Source-Modelle

Vektordatenbanken

Argo CD

Private Registries

CI/CD-Tools

Jobbeschreibung

Über T-Systems International GmbH

Bei T-Systems bieten wir unseren Geschäftskunden die richtigen Systemlösungen für ihr digitales Business. Mit unserem Portfolio stellen wir sicher, dass digitale Transformation Komplexität reduziert, Kosten einspart und die alltägliche Arbeit erleichtert. Unsere Schwerpunkte sind Konnektivität, Digital, Cloud & Infrastruktur sowie Sicherheit – Let's power higher performance!

Über T-Systems International GmbH

Bei T-Systems bieten wir unseren Geschäftskunden die richtigen Systemlösungen für ihr digitales Business. Mit unserem Portfolio stellen wir sicher, dass digitale Transformation Komplexität reduziert, Kosten einspart und die alltägliche Arbeit erleichtert. Unsere Schwerpunkte sind Konnektivität, Digital, Cloud & Infrastruktur sowie Sicherheit – Let's power higher performance!

Über die Position

Als Platform Engineer mit Schwerpunkt Sovereign AI entwickeln, implementieren und betreiben Sie eine sichere und leistungsfähige KI-Toolchain für den Einsatz in isolierten oder besonders geschützten IT-Umgebungen.

Sie gestalten Kubernetes-basierte Plattformen für KI-Inferenz, Retrieval, Experimente und agentenbasierte Anwendungen. Dabei integrieren und betreiben Sie Open-Source- und Open-Weight-Modelle, Model-Serving-Lösungen, Model Gateways, Vektordatenbanken sowie interne Benutzeroberflächen und Schnittstellen.

Mit Infrastructure as Code, GitOps und automatisierten Deployment-Prozessen schaffen Sie stabile, reproduzierbare und auditierbare Plattformumgebungen. Sie verwalten private Registries, lokale Paket- und Modell-Repositories, Secrets, Zugriffsrechte, Storage, Netzwerkkomponenten und Observability-Lösungen in Umgebungen mit eingeschränkter oder vollständig unterbundener Anbindung an öffentliche Cloud-Dienste.

Darüber hinaus optimieren Sie GPU-, CPU-, Storage- und Netzwerkressourcen für zuverlässige KI-Workloads und stellen sicher, dass Sicherheits-, Audit- und Datensouveränitätsanforderungen eingehalten werden.

Must-have-Kenntnisse

• Mindestens fünf Jahre Erfahrung im Platform Engineering, DevOps, Site Reliability Engineering oder MLOps
• Sehr gute Kenntnisse in Kubernetes und Linux
• Erfahrung mit KI-Infrastrukturen, Model Serving und LLM-basierten Anwendungen
• Erfahrung mit privaten, On-Premises- oder isolierten Deployment-Umgebungen
• Gute Kenntnisse in Python, Terraform, Ansible, Helm und GitOps
• Fundierte Kenntnisse in den Bereichen Netzwerk, Storage, Zugriffskontrolle und Monitoring
• Erfahrung mit GPU-gestützten Plattformen und der Optimierung von KI-Workloads
• Sehr gutes Verständnis von IT-Sicherheit, Datensouveränität und auditierbaren Betriebsmodellen
• Sehr gute Deutschkenntnisse in Wort und Schrift auf C1-Niveau

Nice-to-have-Kenntnisse

• Erfahrung mit vLLM, Ollama, llama.cpp oder vergleichbaren Model-Serving-Lösungen
• Kenntnisse im Umgang mit Open-Source- oder Open-Weight-Modellen
• Erfahrung mit Vektordatenbanken wie Qdrant und Retrieval-Augmented Generation
• Kenntnisse in Argo CD, privaten Registries und lokalen Paket- oder Modell-Repositories
• Erfahrung mit Open WebUI oder vergleichbaren internen KI-Oberflächen
• Kenntnisse in GPU-Scheduling, LLMOps, Observability und Air-Gap-Umgebungen
• Erfahrung mit VS-Code-kompatiblen Integrationen und internen KI-Schnittstellen

Was Sie erwartet

Sie gestalten eine souveräne KI-Plattform für den sicheren Betrieb moderner Large Language Models in isolierten und besonders geschützten IT-Umgebungen.

Dabei arbeiten Sie mit Kubernetes, Open-Source- und Open-Weight-Modellen, GPU-gestützten Infrastrukturen, Model Serving, Retrieval, GitOps und Infrastructure as Code. Sie schaffen stabile, reproduzierbare und auditierbare Plattformen und leisten einen wesentlichen Beitrag zu Datensouveränität, Sicherheit und technologischer Unabhängigkeit.

Was wir bieten

Flexibilität und Work-Life-Balance: Profitieren Sie von flexiblen Arbeitszeiten, der Möglichkeit zum mobilen Arbeiten und einem hybriden Arbeitsmodell.

Attraktive Vergütung: Ein wettbewerbsfähiges Gehaltspaket, das Ihre Expertise und Leistung honoriert.

Entwicklungsmöglichkeiten: Zugang zu umfangreichen Weiterbildungsangeboten, Schulungen und Karriereentwicklungsprogrammen.

Modernes Arbeitsumfeld: Arbeiten Sie in einer modernen Ausstattung mit den neuesten Technologien und Tools.

Starke Unternehmenskultur: Eine offene und kollegiale Arbeitsatmosphäre, in der Teamarbeit und gegenseitige Unterstützung großgeschrieben werden.

Gesundheit und Wohlbefinden: Angebote zur Gesundheitsförderung und Initiativen, die Ihr Wohlbefinden unterstützen.

Zusatzleistungen: Diverse Benefits wie betriebliche Altersvorsorge, Mitarbeiterrabatte und Jobticket-Optionen.

Ihre Bewerbung kann durch externe Dienstleister in Deutschland bearbeitet werden. Bewerbungen auf Positionen außerhalb der Deutschen Telekom AG können zudem durch Recruiterinnen und Recruiter in anderen europäischen Ländern bearbeitet werden. Dies gilt auch für die Bearbeitung von Bewerbungen bei Tochtergesellschaften der Deutschen Telekom AG.Daher gilt für unsere Beamtinnen und Beamten folgender Hinweis: Sie sind nicht verpflichtet, Ihrer Bewerbung Unterlagen beizufügen, die für Ihre Personalakte relevant sind, insbesondere dienstliche Beurteilungen. Selbstverständlich können Sie diese Unterlagen freiwillig einreichen.

Diese Position ist auch in Teilzeit zu besetzen.

Menschen mit Behinderung werden bei gleicher Eignung bevorzugt berücksichtigt.

None None