AI Platform Engineer (m/w/d)

Sopra Steria SE; Deutschland; Hybrid; EUR 90,000 - 130,000; Full time

Benefits offered by this job

Weiterbildungsmöglichkeiten

Hybrides Arbeiten in Deutschland

30 Tage Urlaub

SpenditCard 50€/Monat

IT-Equipment gestellt

Firmenwagen & Dienstfahrrad

Deutschlandticket-Zuschuss

Job summary

Sopra Steria SE in Deutschland sucht eine/n Senior Architekt/in für GenAI- und ML-Infrastrukturen. Sie entwerfen End-to-End-Lösungen vom Datenaufbau bis zum Training, Deployment und Monitoring. Sie planen Betriebsplattformen On-Premise oder in der Cloud, setzen Kubernetes/OpenShift ein und optimieren Plattformen beim Kunden.

Sie unterstützen Data Scientists und Engineers bei Schnittstellen und Workflows. Beratung in allen Projektphasen gehört zu Ihrem Alltag.

Qualifications

• Abgeschlossenes Studium der (Wirtschafts-) Informatik, (Wirtschafts-) Mathematik, (Wirtschafts-) Ingenieurwesen oder vergleichbarer Studiengang, idealerweise mit Schwerpunkten in ML, KI oder Cloud-Technologien.
• Sehr gute Kenntnisse und mehrjährige Berufserfahrung in container-basierten Architekturen (z. B. Docker) sowie Plattformen wie Kubernetes oder Openshift, speziell im Kontext von Infrastruktur für GenAI und ML.
• Fundierte Kenntnisse und Erfahrung mit Tools/Frameworks für ML- und GenAI-Lifecycle, wie Hugging Face, NVIDIA AI Enterprise, vLLM und LangChain, sowie Techniken für Training, Fine-Tuning (LoRA, Prompt-Tuning) und Deployment von Modellen.
• Kenntnisse/Erfahrung mit Cloud-Lösungen wie AWS, Azure, Google Cloud oder IBM Cloud, insbesondere im Bereich der Bereitstellung von ML- und GenAI-Anwendungen.
• Umfassende Erfahrung mit Automatisierungs- und Entwicklungstools, darunter Python, Ansible, Terraform, Git/Gitlab/Jenkins und Linux-basierte Betriebssysteme.
• Adressatengerechte Kommunikation komplexer technischer Sachverhalte und Erfahrung in großen IT-Landschaften, idealerweise Public Sector.
• Sehr gute Deutschkenntnisse (C1) und Englischkenntnisse.

Responsibilities

• Konzeption und Umsetzung von End-to-End GenAI- und ML-Infrastrukturen, die den gesamten Lebenszyklus von AI-Anwendungsfällen abdecken – von Datenaufbereitung über Training und Fine-Tuning bis hin zu Modellen als Services und Monitoring.
• Planung, Aufbau und Administration von Betriebsplattformen (On-Premise oder Cloud) für GenAI- und ML-Anwendungen, basierend auf Kubernetes/OpenShift sowie Optimierung bestehender Plattformen.
• Bereitstellung und Deployment von lokalen LLMs und Generative AI-Modellen, inklusive Integration von Tools/APIs für GenAI-Workflows und Anwendungen.
• Unterstützung der Data Scientists, Data Engineers und ML Engineers bei Schnittstellen, Datenaufbereitung und Workflows.
• Beratung unserer Kunden in allen Projektphasen von der Anforderungsdefinition bis zur Implementierung und Produktivsetzung.
• Verantwortung für Qualität und Projekterfolg sowie Mitarbeit an Weiterentwicklung des Beratungsportfolios im GenAI/LLM-Bereich.

Skills

container-based architectures (Docker)

Kubernetes

Openshift

ML/GenAI lifecycle tools

Cloud platforms

Python

Ansible

Terraform

Git/Gitlab/Jenkins

Linux

Kommunikation komplexer Sachverhalte

Public Sector experience

Deutsch & Englisch

Education

Abgeschlossenes Studium der (Wirtschafts-) Informatik, (Wirtschafts-) Mathematik, (Wirtschafts-) Ingenieurwesen oder vergleichbarer Studiengang

Tools

Docker

Kubernetes

OpenShift

Hugging Face

NVIDIA AI Enterprise

vLLM

LangChain

AWS

Azure

Google Cloud

IBM Cloud

Python

Ansible

Terraform

Git

Gitlab

Jenkins

Job description

Unternehmensbeschreibung

Wir sind als eine der führenden europäischen Management- und Technologieberatungen ein echter Tech-Player. Wir sehen uns als Vordenker\*innen, handeln und denken strategisch, entwickeln mit unseren Kunden maßgeschneiderte Lösungen, sowie präzise Prozesse und implementieren innovative Technologien. Weltweit sind wir über 50.000 tech-affine und kluge Köpfe – gemeinsam gestalten wir die Zukunft unserer Kunden und die der Gesellschaft.

Bist du bereit, das digitale Europa mitzugestalten?

Stellenbeschreibung

• Konzeption und Umsetzung von End-To-End GenAI- und ML-Infrastrukturen, die den kompletten Lebenszyklus von AI-Anwendungsfällen abdecken – von der Datenaufbereitung über Training und Fine-Tuning von Modellen (z. B. LLMs) bis hin zu Trigger-Systemen für kontinuierliches Re-Training, Bereitstellung von Modellen als Services und Monitoring
• Planung, Aufbau und Administration von Betriebsplattformen (On-Premise oder Cloud) für GenAI- und ML-Anwendungen, basierend auf modernen Technologien wie Kubernetes oder modernen Container-Orchestrierungsansätzen – sowie Analyse und Optimierung bestehender Plattformen beim Kunden
• Bereitstellung und Deployment von lokalen LLMs und Generative AI-Modellen auf der Plattform, einschließlich Integration von Tools und APIs für GenAI-Workflows und Anwendungen
• Unterstützung der Data Scientists, Data Engineers und Machine Learning Engineers bei der Erstellung von Schnittstellen, Datenaufbereitung und Workflows
• Partnerschaftliche Beratung unserer Kunden in allen Projektphasen: von der Anforderungsdefinition über die Konzeption bin hin zur Implementierung und erfolgreichen Produktivsetzung
• Verantwortung für Qualität und Projekterfolg sowie aktive Mitarbeit an der Weiterentwicklung unseres Beratungsportfolios, insbesondere im Bereich GenAI und LLM-Infrastrukturen

Beratung heißt Flexibilität: Dein Projekteinsatz richtet sich nach unseren Kunden und deiner Projektsituation – du arbeitest deutschlandweit in unseren Offices, beim Kunden vor Ort und von zu Hause.

Qualifikationen

• Abgeschlossenes Studium der (Wirtschafts-) Informatik, (Wirtschafts-) Mathematik, (Wirtschafts-) Ingenieurwesen oder eines vergleichbaren Studiengangs,idealerweise mit Schwerpunkten in Machine Learning, Künstlicher Intelligenz oder Cloud-Technologien
• Sehr gute Kenntnisse und mehrjährige Berufserfahrung in container-basierten Architekturen (z. B. Docker) sowie Plattformen wie Kubernetes oder Openshift, speziell im Kontext von Infrastruktur für GenAI und ML
• Fundierte Kenntnisse und Erfahrung mit relevanten Tools und Frameworks für den ML- und GenAI-Lifecycle, wie Hugging Face, NVIDIA AI Enterprise, vLLM und LangChain, sowie Techniken für Training, Fine-Tuning (z. B. LoRA, Prompt-Tuning) und Deployment von Modellen
• Kenntnisse und Erfahrung mit Cloud-Lösungen wie AWS, Azure, Google Cloud oder IBM Cloud, insbesondere im Bereich der Bereitstellung von ML- und GenAI-Anwendungen
• Umfassende Erfahrung mit Automatisierungs- und Entwicklungstools, darunter Python, Skript-Werkzeugen (z. B. Ansible, Terraform), Software-Entwicklungstools (z. B. Git, Gitlab, Jenkins) und Betriebssystemen auf Linux-Basis
• Adressatengerechte Kommunikation komplexer, technischer Sachverhalte und Erfahrung in großen IT-Landschaften und -Organisationen, idealerweise im Public Sector
• Sehr gute Deutschkenntnisse (ab C1Niveau) sowie Englischkenntnisse runden dein Profil ab

Zusätzliche Informationen

• Weiterbildung: umfangreiche fachliche und methodische Trainings inkl. Zertifizierungen sowie vielfältige Entwicklungsperspektiven innerhalb des Unternehmens
• Work-Life-Balance: hybrides Arbeiten innerhalb von Deutschland und für einen begrenzten Zeitraum in definierten EU-Ländern, Familienservice, Firmenfitness sowie die Möglichkeit zu einem Sabbatical
• Flexible Urlaubsgestaltung: 30 Tage Urlaub und die Möglichkeit zur individuellen Erhöhung oder Verringerung des jährlichen Urlaubs um bis zu 5 Tage
• SpenditCard: Monatlich stehen dir zusätzlich zum Gehalt 50Euro steuerfreies Guthaben zur Verfügung, die du flexibel für Shops in deiner Nähe nutzen kannst
• IT-Equipment: Wir unterstützen dich bei der Ausstattung von benötigtem Zusatz-Equipment für ein optimales ortsflexibles Arbeiten
• Mobilität: Firmenwagen und Dienstfahrrad per Gehaltsumwandlung sowie Bezuschussung des Deutschlandtickets

Unser Mindset: Teamspirit, offene Türen, Duzkultur, gelebte Vielfalt

Vielfalt ist eine wichtige Grundlage unserer Unternehmenskultur. Wir möchten ein inklusives Umfeld schaffen, das die Diversität all unserer 2.700 Mitarbeitenden in Deutschland und Österreich berücksichtigt und in dem du dich bestmöglich entfalten kannst. Denn wir bei Sopra Steria sind davon überzeugt, dass deine Individualität der Schlüssel zu einem nachhaltigen Unternehmenserfolg ist.

Wir setzen uns für eine nachhaltige Zukunft ein: Ob mit konzernweiten Stipendien- und Corporate Volunteering-Programmen oder mit Projekten zur Förderung von Bildung, Chancengleichheit und digitale Inklusion – wir übernehmen Verantwortung für die Gesellschaft. Wir glauben fest daran, dass digitale Innovationen ein Schlüssel zu Gleichberechtigung, Inklusion und Klimaschutz sind.