Sovereign AI Plattform Engineer (m/w/d/x)

T-Systems International; Weingarten; Hybrid; EUR 90.000 - 130.000; Vollzeit

Benefits dieser Stelle

Flexible Arbeitszeiten

Mobiles Arbeiten

Hybrides Arbeiten

Weiterbildungsmöglichkeiten

Betriebliche Altersvorsorge

Zusammenfassung

T-Systems International GmbH sucht eine erfahrene Platform Engineer mit Fokus Sovereign AI, um eine sichere KI-Toolchain in isoliertenIT-Umgebungen zu entwerfen, bereitzustellen und zu betreiben. Sie arbeiten an Kubernetes-Plattformen für KI-Inferenz, Retrieval, Experimente und modellbasierte Anwendungen.

Sie integrieren Open-Source-Modelle, Model Serving, Vektordatenbanken sowie Interfaces, nutzen IaC, GitOps und automatisierte Deployments, verwalten Registries, Zugriffsrechte und Observability

Qualifikationen

• Mindestens fünf Jahre Erfahrung im Platform Engineering, DevOps, Site Reliability Engineering oder MLOps.
• Sehr gute Kenntnisse in Kubernetes und Linux.
• Erfahrung mit KI-Infrastrukturen, Model Serving und LLM-basierten Anwendungen
• Erfahrung mit privaten, On-Premises- oder isolierten Deployment-Umgebungen
• Gute Kenntnisse in Python, Terraform, Ansible, Helm und GitOps
• Fundierte Kenntnisse in den Bereichen Netzwerk, Storage, Zugriffskontrolle und Monitoring
• Erfahrung mit GPU-gestützten Plattformen und der Optimierung von KI-Workloads
• Sehr gutes Verständnis von IT-Sicherheit, Datensouveränität und auditierbaren Betriebsmodellen
• Sehr gute Deutschkenntnisse in Wort und Schrift auf C1-Niveau

Kenntnisse

Kubernetes

Linux

KI-Infrastrukturen

Model Serving

LLM-Anwendungen

Private Deployment

Python

Terraform

Ansible

Helm

GitOps

Netzwerk

Monitoring

Sicherheit

Datensouveränität

Tools

Argo CD

Qdrant

vLLM

Ollama

llama.cpp

Jobbeschreibung

Über T-Systems International GmbH

Bei T-Systems bieten wir unseren Geschäftskunden die richtigen Systemlösungen für ihr digitales Business. Mit unserem Portfolio stellen wir sicher, dass digitale Transformation Komplexität reduziert, Kosten einspart und die alltägliche Arbeit erleichtert. Unsere Schwerpunkte sind Konnektivität, Digital, Cloud & Infrastruktur sowie Sicherheit – Let's power higher performance!

Über die Position

Als Platform Engineer mit Schwerpunkt Sovereign AI entwickeln, implementieren und betreiben Sie eine sichere und leistungsfähige KI-Toolchain für den Einsatz in isolierten oder besonders geschützten IT-Umgebungen.

Sie gestalten Kubernetes-basierte Plattformen für KI-Inferenz, Retrieval, Experimente und agentenbasierte Anwendungen. Dabei integrieren und betreiben Sie Open-Source- und Open-Weight-Modelle, Model-Serving-Lösungen, Model Gateways, Vektordatenbanken sowie interne Benutzeroberflächen und Schnittstellen.

Mit Infrastructure as Code, GitOps und automatisierten Deployment-Prozessen schaffen Sie stabile, reproduzierbare und auditierbare Plattformumgebungen. Sie verwalten private Registries, lokale Paket- und Modell-Repositories, Secrets, Zugriffsrechte, Storage, Netzwerkkomponenten und Observability-Lösungen in Umgebungen mit eingeschränkter oder vollständig unterbundener Anbindung an öffentliche Cloud-Dienste.

Darüber hinaus optimieren Sie GPU-, CPU-, Storage- und Netzwerkressourcen für zuverlässige KI-Workloads und stellen sicher, dass Sicherheits-, Audit- und Datensouveränitätsanforderungen eingehalten werden.

Must-have-Kenntnisse

• Mindestens fünf Jahre Erfahrung im Platform Engineering, DevOps, Site Reliability Engineering oder MLOps
• Sehr gute Kenntnisse in Kubernetes und Linux
• Erfahrung mit KI-Infrastrukturen, Model Serving und LLM-basierten Anwendungen
• Erfahrung mit privaten, On-Premises- oder isolierten Deployment-Umgebungen
• Gute Kenntnisse in Python, Terraform, Ansible, Helm und GitOps
• Fundierte Kenntnisse in den Bereichen Netzwerk, Storage, Zugriffskontrolle und Monitoring
• Erfahrung mit GPU-gestützten Plattformen und der Optimierung von KI-Workloads
• Sehr gutes Verständnis von IT-Sicherheit, Datensouveränität und auditierbaren Betriebsmodellen
• Sehr gute Deutschkenntnisse in Wort und Schrift auf C1-Niveau

Nice-to-have-Kenntnisse

• Erfahrung mit vLLM, Ollama, llama.cpp oder vergleichbaren Model-Serving-Lösungen
• Kenntnisse im Umgang mit Open-Source- oder Open-Weight-Modellen
• Erfahrung mit Vektordatenbanken wie Qdrant und Retrieval-Augmented Generation
• Kenntnisse in Argo CD, privaten Registries und lokalen Paket- oder Modell-Repositories
• Erfahrung mit Open WebUI oder vergleichbaren internen KI-Oberflächen
• Kenntnisse in GPU-Scheduling, LLMOps, Observability und Air-Gap-Umgebungen
• Erfahrung mit VS-Code-kompatiblen Integrationen und internen KI-Schnittstellen

Was Sie erwartet

Sie gestalten eine souveräne KI-Plattform für den sicheren Betrieb moderner Large Language Models in isolierten und besonders geschützten IT-Umgebungen.

Dabei arbeiten Sie mit Kubernetes, Open-Source- und Open-Weight-Modellen, GPU-gestützten Infrastrukturen, Model Serving, Retrieval, GitOps und Infrastructure as Code. Sie schaffen stabile, reproduzierbare und auditierbare Plattformen und leisten einen wesentlichen Beitrag zu Datensouveränität, Sicherheit und technologischer Unabhängigkeit.

Was wir bieten

Flexibilität und Work-Life-Balance: Profitieren Sie von flexiblen Arbeitszeiten, der Möglichkeit zum mobilen Arbeiten und einem hybriden Arbeitsmodell.

Attraktive Vergütung: Ein wettbewerbsfähiges Gehaltspaket, das Ihre Expertise und Leistung honoriert.

Entwicklungsmöglichkeiten: Zugang zu umfangreichen Weiterbildungsangeboten, Schulungen und Karriereentwicklungsprogrammen.

Modernes Arbeitsumfeld: Arbeiten Sie in einer modernen Ausstattung mit den neuesten Technologien und Tools.

Starke Unternehmenskultur: Eine offene und kollegiale Arbeitsatmosphäre, in der Teamarbeit und gegenseitige Unterstützung großgeschrieben werden.

Gesundheit und Wohlbefinden: Angebote zur Gesundheitsförderung und Initiativen, die Ihr Wohlbefinden unterstützen.

Zusatzleistungen: Diverse Benefits wie betriebliche Altersvorsorge, Mitarbeiterrabatte und Jobticket-Optionen.

Diese Position ist auch in Teilzeit zu besetzen.

Menschen mit Behinderung werden bei gleicher Eignung bevorzugt berücksichtigt.