Werkstudent*in AI Inference & Platform Engineering (m/w/d/x)

Deutsche Telekom; Hamburg; On-site; EUR 21,000 - 34,000; Part time

Benefits offered by this job

Flexible Arbeitszeiten

Studium vereinbar

Zusammenarbeit mit erfahrenen AI Ingen

Job summary

T-Systems International GmbH sucht im AI Foundation Team einen engagierten Werkstudenten AI Inference & Platform Engineering (m/w/d/x). Sie unterstützen bei der Entwicklung, Bereitstellung und dem Testen von LLM-Inferenzdiensten auf der AI Foundation Plattform und arbeiten an Python-basierten Tools zur Automatisierung von Deployments.

Sie analysieren Performance, Latenz und Throughput, arbeiten an Backend-Services, Docker- und Kubernetes‑Deployments und tragen zur CI/CD-Pipeline bei.

Qualifications

• Studienplatz im Bereich Informatik, Mathematik o.ä. (Werkstudent).
• Erfahrung mit Python-Backend-Entwicklung ist von Vorteil.
• Interesse an LLM-Inferenz und KI-Infrastruktur.

Responsibilities

• Unterstützung bei Entwicklung, Bereitstellung und Test von LLM-Inferenzdiensten auf der Plattform.
• Entwicklung von Python-Tools und APIs zur Automatisierung von Deployments und Betriebsprozessen.
• Durchführung von Performance-Checks zu LLMs, Analyse von Latenz, Durchsatz und Ressourcen.
• Mitarbeit bei der Integration von LLM-Serving-Frameworks wie vLLM, SGLang oder TensorRT-LLM.
• Mitwirkung bei Backend-Entwicklung und API-Design für KI-Anwendungen.
• Unterstützung bei containerisierten Anwendungen mit Docker und Kubernetes.
• Entwicklung von Datenpipelines und KPI-Analysen zu Performance.
• Unterstützung bei Tests, CI/CD-Pipelines und technischer Dokumentation.

Skills

Python-Programmierung

CI/CD

Performance-Optimierung

Async Python

Tools

Docker

Kubernetes

FastAPI

GitHub Actions

Job description

Über die Position

T-Systems entwickelt mit der Industrial AI Cloud eine der leistungsfähigsten KI-Infrastrukturen Europas. Auf Basis modernster NVIDIA-GPU-Systeme, darunter DGX B200 und B300, ermöglichen wir Unternehmen, Large Language Models (LLMs) und generative KI-Anwendungen sicher, skalierbar und performant zu betreiben. Für unser AI Foundation Team suchen wir einen engagierten Werkstudent AI Inference & Platform Engineering (m/w/d/x).

Deine Hauptaufgaben:

• Unterstützung bei der Entwicklung, Bereitstellung und beim Testen von LLM-Inferenzdiensten auf der T-Systems AI Foundation Plattform.
• Entwicklung Python-basierter Tools, Skripte und APIs zur Automatisierung von Model Deployments und Betriebsprozessen.
• Durchführung von Performance-Benchmarks für LLMs sowie Analyse von Latenz, Durchsatz und Ressourcenauslastung.
• Mitarbeit bei der Integration und Evaluierung moderner LLM-Serving-Frameworks wie vLLM, SGLang und NVIDIA Dynamo.
• Entwicklung und Optimierung von Backend-Services und APIs für KI-Anwendungen.
• Unterstützung bei der Bereitstellung containerisierter Anwendungen mit Docker und Kubernetes.
• Entwicklung von Datenpipelines und Analysen zur Auswertung von Performance- und Betriebsmetriken.
• Untersuchung von Optimierungstechniken wie KV-Caching, Continuous Batching und effizienter GPU-Nutzung.
• Mitarbeit an automatisierten Tests, CI/CD-Pipelines und technischer Dokumentation.
• Zusammenarbeit mit erfahrenen AI Engineers bei der Integration neuer KI-Modelle und Technologien.

Von Vorteil (Nice-to-Have)

• Erfahrung mit Python-Backend-Frameworks wie FastAPI.
• Erste Berührungspunkte mit Large Language Models, generativer KI oder Modellinferenz.
• Grundkenntnisse in LLM-Serving-Frameworks wie vLLM, SGLang oder TensorRT-LLM.
• Kenntnisse in Kubernetes und Container-Orchestrierung.
• Erfahrung mit CI/CD-Tools wie GitHub Actions.
• Kenntnisse in SQL, Datenbanken und Datenpipelines.
• Erfahrung mit asynchroner Python-Programmierung, Caching oder Performance-Optimierung.
• Interesse an NVIDIA-GPU-Technologien, verteilten Systemen und High-Performance Computing.
• Grundkenntnisse in Monitoring und Observability.

Was wir bieten

• Mitarbeit an einer der größten KI-Infrastrukturplattformen Europas.
• Einblicke in modernste NVIDIA-GPU-Infrastruktur, einschließlich DGX B200 und B300.
• Praktische Erfahrung mit aktuellen LLM-Inferenztechnologien wie vLLM, SGLang, NVIDIA Dynamo und TensorRT-LLM.
• Möglichkeit, Kenntnisse in KI-Inferenz, GPU-Computing, Kubernetes und produktiven KI-Systemen aufzubauen.
• Enge Zusammenarbeit mit erfahrenen AI Engineers, Softwareentwicklern und Plattform-Spezialisten.
• Mitarbeit an realen KI-Services für Unternehmenskunden.
• Flexible Arbeitszeiten, die sich mit deinem Studium vereinbaren lassen.
• Ein innovatives Arbeitsumfeld mit vielfältigen Lern- und Entwicklungsmöglichkeiten.

Über T-Systems International GmbH

Bei T-Systems bieten wir unseren Geschäftskunden die richtigen Systemlösungen für ihr digitales Business. Mit unserem Portfolio stellen wir sicher, dass digitale Transformation Komplexität reduziert, Kosten einspart und die alltägliche Arbeit erleichtert. Unsere Schwerpunkte sind Konnektivität, Digital, Cloud & Infrastruktur sowie Sicherheit - Let's power higher performance!

Schwerbehinderte Menschen werden bei gleicher Eignung vorrangig berücksichtigt.

Wir freuen uns auf Sie! Die Bearbeitung Ihrer Bewerbung auf Stellenausschreibungen außerhalb der Deutschen Telekom AG kann auch außerhalb der Deutschen Telekom AG im europäischen Ausland erfolgen. Dies gilt auch für die Bearbeitung von Bewerbungen bei Tochtergesellschaften der Deutschen Telekom AG. Für unsere beamteten Mitarbeiterinnen und Mitarbeiter deshalb folgender Hinweis: Sie sind nicht verpflichtet, Ihrer Bewerbung personalaktenrelevante Unterlagen, insbesondere Beamtenbeurteilungen, beizufügen. Es bleibt Ihnen jedoch unbenommen, diese Dokumente freiwillig zur Verfügung zu stellen.