LLMOps Engineer für CI / CD & Inference Services (m/w/d)
Du automatisierst CI/CD-Pipelines und Kubernetes-Deployments für die zentrale KI- und Data-Analytics-Plattform der Finanz Informatik. Du betreibst Redis-Plattformservices, berätst interne Teams und stellst LLM- und andere KI-Modelle über Inferenzserver wie Nvidia Triton oder vLLM bereit. Rufbereitschaft sowie Nacht- und Wochenendeinsätze gehören dazu.
Wen sucht Finanz Informatik GmbH & Co. KG wirklich?
Gesucht wird eine Person mit mindestens sechs Jahren Erfahrung im Betrieb verteilter Systeme und in der CI/CD-Automatisierung, idealerweise mit Redis-Kenntnissen, die KI-Inferenzservices im Bankenumfeld betreiben möchte.
Kernaufgaben
- 01 Automatisierung von Build-, Test- und Deployment-Prozessen für Container-Anwendungen
- 02 Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes
- 03 Betrieb und Administration der zentralen Redis-Plattformservices
- 04 Beratung interner Teams zu Redis-Architektur und Datenstrukturen
- 05 Bereitstellung von LLM- und multimodalen KI-Modellen über Inferenzserver
- 06 Austausch mit Herstellern und Technologiepartnern zur Plattformarchitektur
Abgeleitet – nicht ausdrücklich genannt
- Docker (aus Kubernetes abgeleitet)
Team & Auftrag
Die Einheit KI Plattform betreibt die zentrale KI- und Analyseplattform für Sparkassen und Verbundpartner. Die Rolle verantwortet Automatisierung, Inferenzdienste und Modellbetrieb und arbeitet mit AI Engineering, System Engineering und Softwareentwicklung zusammen.
Rollenprofil
Backend-Entwicklung Softwareentwicklung
aus dem Stellentitel
Arbeitsumfeld interne IT Bereitschaft & Schichten Rufbereitschaft Kundenkontakt gelegentlich Kundenkontakt
Worauf es bei der Erfahrung ankommt
- Wunsch: mindestens 6 Jahre Erfahrung mit Daten aus der IT- oder Softwarebranche Allgemeine IT-/Softwareerfahrung reicht „Mindestens 6 Jahre stellenbezogene Berufserfahrung“
- DevOps- und Platform-Engineers mit Kubernetes-Erfahrung, die in den KI-Betrieb wechseln wollen
- Redis- bzw. NoSQL-Administrator:innen, die sich in Richtung MLOps entwickeln möchten
- Site Reliability Engineers aus Rechenzentrumsbetrieb mit Interesse an LLM-Inferenz
Softwaredomänen
- KI-Produkte & ML-Plattformen bestätigt
- Core Banking & Banking-Plattformen bestätigt
- Payments & Zahlungsverkehr aus Firmenkontext abgeleitet
- Cloud, Hosting & Infrastruktur aus Firmenkontext abgeleitet
Auch interessant für
- DevOps- und Platform-Engineers mit Kubernetes-Erfahrung, die in den KI-Betrieb wechseln wollen
- Redis- bzw. NoSQL-Administrator:innen, die sich in Richtung MLOps entwickeln möchten
- Site Reliability Engineers aus Rechenzentrumsbetrieb mit Interesse an LLM-Inferenz
belege aus der stellenanzeige anzeigen
- Automatisierung von Build-, Test- und Deployment-Prozessen für Container-Anwendungen „Verantwortung für die Automatisierung des Build-, Test- und Deployment-Prozess für unsere Container-Anwendungen mit Jenkins, GitHub Actions oder GitLab CI“
- Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes „Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes-Clustern und Sicherstellung von sicheren, reproduzierbare Deployments“
- Betrieb und Administration der zentralen Redis-Plattformservices „Betrieb und Administration unserer zentralen Redis-Plattformservices und Verantwortung für deren hochverfügbaren, sicheren und performanten Betrieb“
- Beratung interner Teams zu Redis-Architektur und Datenstrukturen „Beratung unserer internen Kunden und Entwicklungsteams beim Einsatz von Redis und Unterstützung bei Architektur- und Designentscheidungen“
- Bereitstellung von LLM- und multimodalen KI-Modellen über Inferenzserver „Bereitstellung von unimodalen (z.b. LLM, OCR, SST/TTS) und multimodalen KI-Modellen mittels Nvidia Triton, NIM oder Alternativen wie Huggingface TGI, TEI oder vLLM“
- Austausch mit Herstellern und Technologiepartnern zur Plattformarchitektur „Enger Austausch mit Herstellern und Technologiepartnern für die zukunftsorientierte Weiterentwicklung unserer Plattformarchitektur“
- Pflicht: CI/CD „Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o“
- Pflicht: Jenkins „Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o“
- Pflicht: GitHub Actions „Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o“
- Pflicht: Git „Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o“
- Pflicht: GitLab CI „Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o“
- Pflicht: Distributed Systems „Umfangreiche Erfahrung im Betrieb verteilter Systeme“
- Pflicht: Kubernetes „Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes-Clustern“
- Pflicht: Helm „Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes-Clustern“
- Team & Auftrag „Unser Team stellt die zentrale KI- und Data Analytics Plattform der Finanz Informatik für interne und externe Kunden wie Sparkassen und Verbundpartner bereit.“
- Team & Auftrag „Du entwickelst gemeinsam mit Experten aus AI Engineering, System Engineering und Softwareentwicklung moderne Werkzeuge und Prozesse für datengetriebenes Banking für über 50 Millionen Kunden.“
- Auswahlprozess bei Finanz Informatik GmbH & Co. KG „unter Angabe der Kennziffer 741/B“
aufgaben
Berufsfelder
anforderungen
Fähigkeiten
originalanzeige
Die vollständige Beschreibung findest du in der Originalanzeige. Oben siehst du unsere eigene Analyse der Stelle.
Die Finanz Informatik ist der zentrale IT-Dienstleister der Sparkassen-Finanzgruppe und entwickelt die Gesamtbanklösung OSPlus mit Kernbanksystem, dem Vertriebs-Frontend OSPlus_neo, der Internet-Filiale und dem KI-Assistenten S-KIPilot. Zu den Kunden zählen 338 Sparkassen, Landesbanken, die DekaBank, Landesbausparkassen und öffentliche Versicherer; betreut werden 112 Mio.
LLMOps Engineer für CI / CD & Inference Services (m/w/d)
Du automatisierst CI/CD-Pipelines und Kubernetes-Deployments für die zentrale KI- und Data-Analytics-Plattform der Finanz Informatik. Du betreibst Redis-Plattformservices, berätst interne Teams und stellst LLM- und andere KI-Modelle über Inferenzserver wie Nvidia Triton oder vLLM bereit. Rufbereitschaft sowie Nacht- und Wochenendeinsätze gehören dazu.
Wen sucht Finanz Informatik GmbH & Co. KG wirklich?
Gesucht wird eine Person mit mindestens sechs Jahren Erfahrung im Betrieb verteilter Systeme und in der CI/CD-Automatisierung, idealerweise mit Redis-Kenntnissen, die KI-Inferenzservices im Bankenumfeld betreiben möchte.
Kernaufgaben
- 01 Automatisierung von Build-, Test- und Deployment-Prozessen für Container-Anwendungen
- 02 Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes
- 03 Betrieb und Administration der zentralen Redis-Plattformservices
- 04 Beratung interner Teams zu Redis-Architektur und Datenstrukturen
- 05 Bereitstellung von LLM- und multimodalen KI-Modellen über Inferenzserver
- 06 Austausch mit Herstellern und Technologiepartnern zur Plattformarchitektur
Team & Auftrag
Die Einheit KI Plattform betreibt die zentrale KI- und Analyseplattform für Sparkassen und Verbundpartner. Die Rolle verantwortet Automatisierung, Inferenzdienste und Modellbetrieb und arbeitet mit AI Engineering, System Engineering und Softwareentwicklung zusammen.
Rollenprofil
Backend-Entwicklung Softwareentwicklung
aus dem Stellentitel
Arbeitsumfeld interne IT Bereitschaft & Schichten Rufbereitschaft Kundenkontakt gelegentlich Kundenkontakt
Worauf es bei der Erfahrung ankommt
- Wunsch: mindestens 6 Jahre Erfahrung mit Daten aus der IT- oder Softwarebranche Allgemeine IT-/Softwareerfahrung reicht „Mindestens 6 Jahre stellenbezogene Berufserfahrung“
Softwaredomänen
- KI-Produkte & ML-Plattformen bestätigt
- Core Banking & Banking-Plattformen bestätigt
- Payments & Zahlungsverkehr aus Firmenkontext abgeleitet
- Cloud, Hosting & Infrastruktur aus Firmenkontext abgeleitet
Auch interessant für
- DevOps- und Platform-Engineers mit Kubernetes-Erfahrung, die in den KI-Betrieb wechseln wollen
- Redis- bzw. NoSQL-Administrator:innen, die sich in Richtung MLOps entwickeln möchten
- Site Reliability Engineers aus Rechenzentrumsbetrieb mit Interesse an LLM-Inferenz
belege aus der stellenanzeige anzeigen
- Automatisierung von Build-, Test- und Deployment-Prozessen für Container-Anwendungen „Verantwortung für die Automatisierung des Build-, Test- und Deployment-Prozess für unsere Container-Anwendungen mit Jenkins, GitHub Actions oder GitLab CI“
- Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes „Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes-Clustern und Sicherstellung von sicheren, reproduzierbare Deployments“
- Betrieb und Administration der zentralen Redis-Plattformservices „Betrieb und Administration unserer zentralen Redis-Plattformservices und Verantwortung für deren hochverfügbaren, sicheren und performanten Betrieb“
- Beratung interner Teams zu Redis-Architektur und Datenstrukturen „Beratung unserer internen Kunden und Entwicklungsteams beim Einsatz von Redis und Unterstützung bei Architektur- und Designentscheidungen“
- Bereitstellung von LLM- und multimodalen KI-Modellen über Inferenzserver „Bereitstellung von unimodalen (z.b. LLM, OCR, SST/TTS) und multimodalen KI-Modellen mittels Nvidia Triton, NIM oder Alternativen wie Huggingface TGI, TEI oder vLLM“
- Austausch mit Herstellern und Technologiepartnern zur Plattformarchitektur „Enger Austausch mit Herstellern und Technologiepartnern für die zukunftsorientierte Weiterentwicklung unserer Plattformarchitektur“
- Pflicht: CI/CD „Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o“
- Pflicht: Jenkins „Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o“
- Pflicht: GitHub Actions „Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o“
- Pflicht: Git „Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o“
- Pflicht: GitLab CI „Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o“
- Pflicht: Distributed Systems „Umfangreiche Erfahrung im Betrieb verteilter Systeme“
- Pflicht: Kubernetes „Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes-Clustern“
- Pflicht: Helm „Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes-Clustern“
- Team & Auftrag „Unser Team stellt die zentrale KI- und Data Analytics Plattform der Finanz Informatik für interne und externe Kunden wie Sparkassen und Verbundpartner bereit.“
- Team & Auftrag „Du entwickelst gemeinsam mit Experten aus AI Engineering, System Engineering und Softwareentwicklung moderne Werkzeuge und Prozesse für datengetriebenes Banking für über 50 Millionen Kunden.“
- Auswahlprozess bei Finanz Informatik GmbH & Co. KG „unter Angabe der Kennziffer 741/B“
aufgaben
Berufsfelder
anforderungen
Fähigkeiten
originalanzeige
Die vollständige Beschreibung findest du in der Originalanzeige. Oben siehst du unsere eigene Analyse der Stelle.