741/B - LLMOps Engineer für CI / CD & Inference Services (m/w/d)

techport

Frankfurt

On-site

EUR 90,000 - 130,000

Full time

6 hours ago
Be an early applicant

A complete application in a minute

Tailored resume and cover letter, ready to send.

Get past ATS filters

Job summary

Die Finanz Informatik GmbH & Co. KG sucht einen LLMOps Engineer für CI/CD und Inference Services. Sie automatisieren Build-, Test- und Deployment-Prozesse für Container-Anwendungen in der zentralen KI- und Data-Analytics-Plattform.

Sie betreiben Redis-Plattformservices, beraten interne Teams zu Redis-Architektur und stellen LLM-Modelle über Inferenzserver wie Nvidia Triton oder vLLM bereit. Rufbereitschaft, Nacht- und Wochenenddienste gehören dazu.

Qualifications

  • Mindestens 6 Jahre Betrieb verteilter Systeme und CI/CD-Automatisierung.
  • Erfahrung mit Redis-Administration und KI-Inferenzdiensten (z.B. Triton/vLLM).
  • Kenntnisse im Kubernetes-Ökosystem (Helm, ArgoCD) und Container-Deployments.
  • Zusammenarbeit mit AI Engineering, System Engineering und Softwareentwicklung.

Responsibilities

  • Automatisierung von Build-, Test- und Deployment-Prozessen für Container-Anwendungen.
  • Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes.
  • Betrieb und Administration der zentralen Redis-Plattformservices.
  • Beratung interner Teams zu Redis-Architektur und Datenstrukturen.
  • Bereitstellung von LLM- und multimodalen KI-Modellen über Inferenzserver.
  • Austausch mit Herstellern und Technologiepartnern zur Plattformarchitektur.

Skills

Kubernetes
CI/CD Automatisierung
Redis-Administration
Docker
Helm

Tools

ArgoCD
Jenkins
GitHub Actions
GitLab CI
Git
NVIDIA Triton
vLLM

Job description

LLMOps Engineer für CI / CD & Inference Services (m/w/d)

Du automatisierst CI/CD-Pipelines und Kubernetes-Deployments für die zentrale KI- und Data-Analytics-Plattform der Finanz Informatik. Du betreibst Redis-Plattformservices, berätst interne Teams und stellst LLM- und andere KI-Modelle über Inferenzserver wie Nvidia Triton oder vLLM bereit. Rufbereitschaft sowie Nacht- und Wochenendeinsätze gehören dazu.

Wen sucht Finanz Informatik GmbH & Co. KG wirklich?

Gesucht wird eine Person mit mindestens sechs Jahren Erfahrung im Betrieb verteilter Systeme und in der CI/CD-Automatisierung, idealerweise mit Redis-Kenntnissen, die KI-Inferenzservices im Bankenumfeld betreiben möchte.

Kernaufgaben
  • 01 Automatisierung von Build-, Test- und Deployment-Prozessen für Container-Anwendungen
  • 02 Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes
  • 03 Betrieb und Administration der zentralen Redis-Plattformservices
  • 04 Beratung interner Teams zu Redis-Architektur und Datenstrukturen
  • 05 Bereitstellung von LLM- und multimodalen KI-Modellen über Inferenzserver
  • 06 Austausch mit Herstellern und Technologiepartnern zur Plattformarchitektur

Abgeleitet – nicht ausdrücklich genannt

  • Docker (aus Kubernetes abgeleitet)
Team & Auftrag

Die Einheit KI Plattform betreibt die zentrale KI- und Analyseplattform für Sparkassen und Verbundpartner. Die Rolle verantwortet Automatisierung, Inferenzdienste und Modellbetrieb und arbeitet mit AI Engineering, System Engineering und Softwareentwicklung zusammen.

Rollenprofil

Backend-Entwicklung Softwareentwicklung

aus dem Stellentitel

Arbeitsumfeld interne IT Bereitschaft & Schichten Rufbereitschaft Kundenkontakt gelegentlich Kundenkontakt

Worauf es bei der Erfahrung ankommt
  • Wunsch: mindestens 6 Jahre Erfahrung mit Daten aus der IT- oder Softwarebranche Allgemeine IT-/Softwareerfahrung reicht „Mindestens 6 Jahre stellenbezogene Berufserfahrung“
    • DevOps- und Platform-Engineers mit Kubernetes-Erfahrung, die in den KI-Betrieb wechseln wollen
    • Redis- bzw. NoSQL-Administrator:innen, die sich in Richtung MLOps entwickeln möchten
    • Site Reliability Engineers aus Rechenzentrumsbetrieb mit Interesse an LLM-Inferenz
Softwaredomänen
  • KI-Produkte & ML-Plattformen bestätigt
  • Core Banking & Banking-Plattformen bestätigt
  • Payments & Zahlungsverkehr aus Firmenkontext abgeleitet
  • Cloud, Hosting & Infrastruktur aus Firmenkontext abgeleitet
Auch interessant für
  • DevOps- und Platform-Engineers mit Kubernetes-Erfahrung, die in den KI-Betrieb wechseln wollen
  • Redis- bzw. NoSQL-Administrator:innen, die sich in Richtung MLOps entwickeln möchten
  • Site Reliability Engineers aus Rechenzentrumsbetrieb mit Interesse an LLM-Inferenz

belege aus der stellenanzeige anzeigen

  • Automatisierung von Build-, Test- und Deployment-Prozessen für Container-Anwendungen „Verantwortung für die Automatisierung des Build-, Test- und Deployment-Prozess für unsere Container-Anwendungen mit Jenkins, GitHub Actions oder GitLab CI“
  • Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes „Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes-Clustern und Sicherstellung von sicheren, reproduzierbare Deployments“
  • Betrieb und Administration der zentralen Redis-Plattformservices „Betrieb und Administration unserer zentralen Redis-Plattformservices und Verantwortung für deren hochverfügbaren, sicheren und performanten Betrieb“
  • Beratung interner Teams zu Redis-Architektur und Datenstrukturen „Beratung unserer internen Kunden und Entwicklungsteams beim Einsatz von Redis und Unterstützung bei Architektur- und Designentscheidungen“
  • Bereitstellung von LLM- und multimodalen KI-Modellen über Inferenzserver „Bereitstellung von unimodalen (z.b. LLM, OCR, SST/TTS) und multimodalen KI-Modellen mittels Nvidia Triton, NIM oder Alternativen wie Huggingface TGI, TEI oder vLLM“
  • Austausch mit Herstellern und Technologiepartnern zur Plattformarchitektur „Enger Austausch mit Herstellern und Technologiepartnern für die zukunftsorientierte Weiterentwicklung unserer Plattformarchitektur“
  • Pflicht: CI/CD „Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o“
  • Pflicht: Jenkins „Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o“
  • Pflicht: GitHub Actions „Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o“
  • Pflicht: Git „Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o“
  • Pflicht: GitLab CI „Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o“
  • Pflicht: Distributed Systems „Umfangreiche Erfahrung im Betrieb verteilter Systeme“
  • Pflicht: Kubernetes „Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes-Clustern“
  • Pflicht: Helm „Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes-Clustern“
  • Team & Auftrag „Unser Team stellt die zentrale KI- und Data Analytics Plattform der Finanz Informatik für interne und externe Kunden wie Sparkassen und Verbundpartner bereit.“
  • Team & Auftrag „Du entwickelst gemeinsam mit Experten aus AI Engineering, System Engineering und Softwareentwicklung moderne Werkzeuge und Prozesse für datengetriebenes Banking für über 50 Millionen Kunden.“
  • Auswahlprozess bei Finanz Informatik GmbH & Co. KG „unter Angabe der Kennziffer 741/B“

aufgaben

Berufsfelder

  • Softwareentwicklung

anforderungen

Fähigkeiten

originalanzeige

Die vollständige Beschreibung findest du in der Originalanzeige. Oben siehst du unsere eigene Analyse der Stelle.

Die Finanz Informatik ist der zentrale IT-Dienstleister der Sparkassen-Finanzgruppe und entwickelt die Gesamtbanklösung OSPlus mit Kernbanksystem, dem Vertriebs-Frontend OSPlus_neo, der Internet-Filiale und dem KI-Assistenten S-KIPilot. Zu den Kunden zählen 338 Sparkassen, Landesbanken, die DekaBank, Landesbausparkassen und öffentliche Versicherer; betreut werden 112 Mio.

LLMOps Engineer für CI / CD & Inference Services (m/w/d)

Du automatisierst CI/CD-Pipelines und Kubernetes-Deployments für die zentrale KI- und Data-Analytics-Plattform der Finanz Informatik. Du betreibst Redis-Plattformservices, berätst interne Teams und stellst LLM- und andere KI-Modelle über Inferenzserver wie Nvidia Triton oder vLLM bereit. Rufbereitschaft sowie Nacht- und Wochenendeinsätze gehören dazu.

Wen sucht Finanz Informatik GmbH & Co. KG wirklich?

Gesucht wird eine Person mit mindestens sechs Jahren Erfahrung im Betrieb verteilter Systeme und in der CI/CD-Automatisierung, idealerweise mit Redis-Kenntnissen, die KI-Inferenzservices im Bankenumfeld betreiben möchte.

Kernaufgaben
  • 01 Automatisierung von Build-, Test- und Deployment-Prozessen für Container-Anwendungen
  • 02 Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes
  • 03 Betrieb und Administration der zentralen Redis-Plattformservices
  • 04 Beratung interner Teams zu Redis-Architektur und Datenstrukturen
  • 05 Bereitstellung von LLM- und multimodalen KI-Modellen über Inferenzserver
  • 06 Austausch mit Herstellern und Technologiepartnern zur Plattformarchitektur
Team & Auftrag

Die Einheit KI Plattform betreibt die zentrale KI- und Analyseplattform für Sparkassen und Verbundpartner. Die Rolle verantwortet Automatisierung, Inferenzdienste und Modellbetrieb und arbeitet mit AI Engineering, System Engineering und Softwareentwicklung zusammen.

Rollenprofil

Backend-Entwicklung Softwareentwicklung

aus dem Stellentitel

Arbeitsumfeld interne IT Bereitschaft & Schichten Rufbereitschaft Kundenkontakt gelegentlich Kundenkontakt

Worauf es bei der Erfahrung ankommt
  • Wunsch: mindestens 6 Jahre Erfahrung mit Daten aus der IT- oder Softwarebranche Allgemeine IT-/Softwareerfahrung reicht „Mindestens 6 Jahre stellenbezogene Berufserfahrung“
Softwaredomänen
  • KI-Produkte & ML-Plattformen bestätigt
  • Core Banking & Banking-Plattformen bestätigt
  • Payments & Zahlungsverkehr aus Firmenkontext abgeleitet
  • Cloud, Hosting & Infrastruktur aus Firmenkontext abgeleitet
Auch interessant für
  • DevOps- und Platform-Engineers mit Kubernetes-Erfahrung, die in den KI-Betrieb wechseln wollen
  • Redis- bzw. NoSQL-Administrator:innen, die sich in Richtung MLOps entwickeln möchten
  • Site Reliability Engineers aus Rechenzentrumsbetrieb mit Interesse an LLM-Inferenz

belege aus der stellenanzeige anzeigen

  • Automatisierung von Build-, Test- und Deployment-Prozessen für Container-Anwendungen „Verantwortung für die Automatisierung des Build-, Test- und Deployment-Prozess für unsere Container-Anwendungen mit Jenkins, GitHub Actions oder GitLab CI“
  • Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes „Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes-Clustern und Sicherstellung von sicheren, reproduzierbare Deployments“
  • Betrieb und Administration der zentralen Redis-Plattformservices „Betrieb und Administration unserer zentralen Redis-Plattformservices und Verantwortung für deren hochverfügbaren, sicheren und performanten Betrieb“
  • Beratung interner Teams zu Redis-Architektur und Datenstrukturen „Beratung unserer internen Kunden und Entwicklungsteams beim Einsatz von Redis und Unterstützung bei Architektur- und Designentscheidungen“
  • Bereitstellung von LLM- und multimodalen KI-Modellen über Inferenzserver „Bereitstellung von unimodalen (z.b. LLM, OCR, SST/TTS) und multimodalen KI-Modellen mittels Nvidia Triton, NIM oder Alternativen wie Huggingface TGI, TEI oder vLLM“
  • Austausch mit Herstellern und Technologiepartnern zur Plattformarchitektur „Enger Austausch mit Herstellern und Technologiepartnern für die zukunftsorientierte Weiterentwicklung unserer Plattformarchitektur“
  • Pflicht: CI/CD „Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o“
  • Pflicht: Jenkins „Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o“
  • Pflicht: GitHub Actions „Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o“
  • Pflicht: Git „Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o“
  • Pflicht: GitLab CI „Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o“
  • Pflicht: Distributed Systems „Umfangreiche Erfahrung im Betrieb verteilter Systeme“
  • Pflicht: Kubernetes „Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes-Clustern“
  • Pflicht: Helm „Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes-Clustern“
  • Team & Auftrag „Unser Team stellt die zentrale KI- und Data Analytics Plattform der Finanz Informatik für interne und externe Kunden wie Sparkassen und Verbundpartner bereit.“
  • Team & Auftrag „Du entwickelst gemeinsam mit Experten aus AI Engineering, System Engineering und Softwareentwicklung moderne Werkzeuge und Prozesse für datengetriebenes Banking für über 50 Millionen Kunden.“
  • Auswahlprozess bei Finanz Informatik GmbH & Co. KG „unter Angabe der Kennziffer 741/B“

aufgaben

Berufsfelder

  • Softwareentwicklung

anforderungen

Fähigkeiten

originalanzeige

Die vollständige Beschreibung findest du in der Originalanzeige. Oben siehst du unsere eigene Analyse der Stelle.

Get your free, confidential resume review.

or drag and drop your file here.

Similar jobs

Similar jobs worth comparing

742/B - LLMOps Engineer für KI-Services (m/w/d)
742/B - LLMOps Engineer für KI-Services (m/w/d)

techport • Hannover

On-site
EUR 70,000 - 95,000
761/B - CITO-Plattform-Entwickler (m/w/d)
761/B - CITO-Plattform-Entwickler (m/w/d)

techport • Frankfurt

On-site
EUR 90,000 - 120,000
719/B - Systemischer Manager - Transformation und Organisationsentwicklung (m/w/d)
719/B - Systemischer Manager - Transformation und Organisationsentwicklung (m/w/d)

techport • Frankfurt

On-site
EUR 85,000 - 125,000
748/B - Business Analyst für das Meldewesen Frontend (m/w/d)
748/B - Business Analyst für das Meldewesen Frontend (m/w/d)

techport • Münster

On-site
EUR 55,000 - 85,000
736/B - Softwareentwickler ServiceNow (m/w/d)
736/B - Softwareentwickler ServiceNow (m/w/d)

techport • Münster, Hannover

On-site
EUR 52,000 - 76,000
Controller (all genders) - Zentralcontrolling
Controller (all genders) - Zentralcontrolling

techport • Aachen

Hybrid
EUR 47,000 - 71,000
Urban Sports Club
Betriebliche Kantinenzuschüsse
Dienstrad-Leasing
+3
741/B - LLMOps Engineer für CI / CD & Inference Services (m/w/d)
741/B - LLMOps Engineer für CI / CD & Inference Services (m/w/d)

Finanz Informatik GmbH & Co. KG • Frankfurt

On-site
EUR 90,000 - 130,000
718/B - Business Analyst Firmenkunden (m/w/d)
718/B - Business Analyst Firmenkunden (m/w/d)

techport • Münster

Hybrid
EUR 52,000 - 72,000
LLMOps Engineer für CI / CD & Inference Services (m/w/d)
LLMOps Engineer für CI / CD & Inference Services (m/w/d)

Finanz Informatik GmbH & Co. KG • Hannover

On-site
EUR 90,000 - 130,000
Altersvorsorge
Barrierefrei
Betriebssport
+9
737/B - Softwareentwickler JavaScript und SQL (m/w/d)
737/B - Softwareentwickler JavaScript und SQL (m/w/d)

techport • Hannover

On-site
EUR 65,000 - 95,000