LLMOps Engineer für CI / CD & Inference Services (m/w/d)

Finanz Informatik GmbH & Co. KG

Hannover

On-site

EUR 90,000 - 130,000

Full time

8 days ago

A complete application in a minute

Tailored resume and cover letter, ready to send.

Get past ATS filters

Benefits offered by this job

Altersvorsorge
Barrierefrei
Betriebssport
Familienservice
Firmenevents
Flexible Arbeitszeiten
Mobiles Arbeiten
Jobticket
Kantine
Tarifvertrag
Weiterbildung
Fitnessförderung

Job summary

Die Finanz Informatik GmbH & Co. KG sucht für die KI Plattform am Standort Hannover (und ggf. Münster/Frankfurt) einen LLMOps Engineer für CI/CD & Inference Services.

Das Team stellt die zentrale KI- und Data Analytics Plattform für Sparkassen bereit. Sie arbeiten an skalierbaren KI-Lösungen, automatisierter Bereitstellung, Inferenzinfrastruktur und Modellbetrieb, nutzen Kubernetes, ArgoCD, Helm, GitHub Actions, Nvidia Triton und Huggingface-Tools, beraten interne Teams und treiben

Qualifications

  • Abgeschlossenes Informatikstudium oder vergleichbare Ausbildung.
  • Mindestens 6 Jahre relevante Berufserfahrung.
  • Erfahrung im Betrieb verteilter Systeme und mit Redis von Vorteil.
  • Bereitschaft für Nacht- und Wochenendeinsätze sowie Rufbereitschaft.

Responsibilities

  • Automatisierung von Build-, Test- und Deployment-Prozessen für Container-Anwendungen.
  • Orchestrierung von Containern mit Helm und ArgoCD in Kubernetes-Clustern.
  • Betrieb von Redis-Plattformservices und sicherer, hochverfügbarer Betrieb.
  • Beratung interner Kunden bei Redis-Architekturentscheidungen.
  • Bereitstellung von KI- und Plattformservices und Weiterentwicklung der Plattform.
  • Enger Austausch mit Herstellern/Partnern zur Weiterentwicklung der Plattformarchitektur.
  • Bereitstellung von unimodalen/multimodalen KI-Modellen mittels Nvidia Triton, NIM oder Huggingface-Tools.

Skills

Kubernetes
ArgoCD
Helm
CI/CD-Pipelines
Redis
Monitoring
Troubleshooting
Teamwork
Nacht- und Bereitschaftsdienst

Education

Informatikstudium

Tools

GitHub Actions
Jenkins
GitLab CI
Nvidia Triton
Huggingface TGI/TEI

Job description

Als einer der größten Banken-IT-Dienstleister und Digitalisierungspartner Europas sind wir der Treiber der Digitalisierung innerhalb der Sparkassen-Finanzgruppe. Mit über 5.000 Mitarbeitenden an 3 Standorten machen wir digitales Banking von heute leistungsfähig und entwickeln smarte Finanz-Services von morgen. Dabei bieten wir ein breites Aufgabenspektrum, in dem die individuellen Stärken hervorragend eingebracht werden können. Ob App-Entwicklung, Netzwerktechnologien und Serverbetrieb oder Beratung, Schulung und Support – bei uns findet jede:r seine bzw. ihre Berufung! Als Spezialist:in oder auch als Generalist:in. Alles mit besten Karrierechancen, viel Raum für persönliche Entfaltung und zahlreichen Benefits.

Für die Organisationseinheit KI Plattform suchen wir zum nächstmöglichen Termin für den Standort Hannover, Münster oder Frankfurt am Main einen LLMOps Engineer für CI / CD & Inference Services (m/w/d). Unser Team stellt die zentrale KI- und Data Analytics Plattform der Finanz Informatik für interne und externe Kunden wie Sparkassen und Verbundpartner bereit.

In der Rolle als MLOps Engineer gestaltest du aktiv die technische Basis für skalierbare, sichere und performante KI-Lösungen – von der automatisierten Bereitstellung über Inferenzinfrastruktur bis hin zum Modellbetrieb.

Du entwickelst gemeinsam mit Experten aus AI Engineering, System Engineering und Softwareentwicklung moderne Werkzeuge und Prozesse für datengetriebenes Banking für über 50 Millionen Kunden. Mit unserer Plattform setzen wir auf moderne Technologien wie Kubernetes, ArgoCD, Helm, GitHub Actions, Nvidia Triton, Huggingface TGI/TEI, arbeiten mit Partnern wie Nvidia oder Mistral AI eng zusammen – und suchen Kollegen, die entweder im Bereich CI/CD & Plattformautomatisierung oder im Bereich LLM-Infrastruktur & Inferenzservices ihre Expertise mit einbringen und weiter ausbauen.

Deine Aufgaben
  • Verantwortung für die Automatisierung des Build-, Test- und Deployment-Prozess für unsere Container-Anwendungen mit Jenkins, GitHub Actions oder GitLab CI und kontinuierliche Integration neuer Use Cases kontinuierlich in unsere Plattform-Pipelines
  • Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes-Clustern und Sicherstellung von sicheren, reproduzierbare Deployments
  • Betrieb und Administration unserer zentralen Redis-Plattformservices und Verantwortung für deren hochverfügbaren, sicheren und performanten Betrieb
  • Beratung unserer internen Kunden und Entwicklungsteams beim Einsatz von Redis und Unterstützung bei Architektur- und Designentscheidungen – beispielweise bei Caching, Streams, Queues, Pub/Sub und der Auswahl geeigneter Datenstrukturen
  • Bereitstellung und Betrieb von KI- und Plattformservices und Einbringung bei Architekturentscheidungen und der Weiterentwicklung unserer Plattform
  • Enger Austausch mit Herstellern und Technologiepartnern für die zukunftsorientierte Weiterentwicklung unserer Plattformarchitektur
  • Bereitstellung von unimodalen (z.B. LLM, OCR, SST/TTS) und multimodalen KI-Modellen mittels Nvidia Triton, NIM oder Alternativen wie Huggingface TGI, TEI oder vLLM
Dein Profil
  • Abgeschlossenes Informatikstudium oder eine vergleichbare Ausbildung
  • Mindestens 6 Jahre stellenbezogene Berufserfahrung
  • Umfangreiche Erfahrung im Betrieb vertefter Systeme und idealerweise praktische Kenntnisse mit Redis oder vergleichbaren In-Memory-/NoSQL-Technologien
  • Gute Kenntnisse rund um Hochverfügbarkeit, Skalierung, Performance-Optimierung, Monitoring und Troubleshooting von Redis sind von Vorteil
  • Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o. Ä.) sowie Begeisterung für moderne Plattformtechnologien und die Bereitschaft, sich sowohl mit dem technischen Betrieb als auch mit deren sinnvoller Nutzung durch Anwendungsentwickler auseinanderzusetzen
  • Teamgeist, Eigeninitiative sowie analytisches Denken und eigenverantwortliches Handeln
  • Bereitschaft für Nacht- und Wochenendeinsätze sowie Teilnahme an der Rufbereitschaft
Benefits bei der Finanz Informatik
  • Altersvorsorge
  • Barrierefrei
  • Betriebssport
  • Familienservice
  • Firmenevents
  • Flexible Arbeitszeiten
  • Mobiles Arbeiten
  • Jobticket
  • Kantine
  • Tarifvertrag
  • Weiterbildung
  • Fitnessförderung

Bei uns erwartet dich eine attraktive Vergütung basierend auf deiner Qualifikation sowie deiner relevanten, praktischen Erfahrung.

Wir freuen uns über alle Bewerbungen, unabhängig von Geschlecht, Alter, Behinderung, Religion, ethnischer Herkunft oder sexueller Identität, unter Angabe der Kennziffer 741/B.

Solltest du vorab weitere Auskünfte zu dieser Stelle wünschen, steht dir gerne Herr Dominik Och zur Verfügung. Du erreichst Dominik Och unter Tel. 0511 5102-23036 oder per E-Mail unter karriere@f-i.de.

Get your free, confidential resume review.

or drag and drop your file here.

Similar jobs

Similar jobs worth comparing

LLMOps Engineer für CI / CD & Inference Services (m/w/d)
LLMOps Engineer für CI / CD & Inference Services (m/w/d)

Finanz Informatik • Hannover

On-site
EUR 90,000 - 120,000
Altersvorsorge
Barrierefrei
Betriebssport
+9
LLMOps Engineer für KI-Services (m/w/d)
LLMOps Engineer für KI-Services (m/w/d)

Finanz Informatik • Hannover

On-site
EUR 65,000 - 90,000
Flexible Arbeitszeiten
Mobiles Arbeiten
Jobticket
+1
741/B - LLMOps Engineer für CI / CD & Inference Services (m/w/d)
741/B - LLMOps Engineer für CI / CD & Inference Services (m/w/d)

Finanz Informatik GmbH & Co. KG • Frankfurt

On-site
EUR 90,000 - 130,000
742/B - LLMOps Engineer für KI-Services (m/w/d)
742/B - LLMOps Engineer für KI-Services (m/w/d)

Finanz Informatik GmbH & Co. KG • Hannover

On-site
EUR 70,000 - 110,000
LLMOps Engineer für CI / CD & Inference Services (m/w/d)
LLMOps Engineer für CI / CD & Inference Services (m/w/d)

Finanz Informatik GmbH & Co. KG • Frankfurt

On-site
EUR 80,000 - 110,000
Data Platform Ops Engineer (m/w/d)
Data Platform Ops Engineer (m/w/d)

Finanz Informatik GmbH & Co. KG • Hannover

On-site
EUR 70,000 - 110,000
Altersvorsorge
Barrierefrei
Betriebssport
+9
LLMOps Engineer für KI-Services (m/w/d)
LLMOps Engineer für KI-Services (m/w/d)

Finanz Informatik GmbH & Co. KG • Hannover

On-site
EUR 70,000 - 100,000
742/B - LLMOps Engineer für KI-Services (m/w/d)
742/B - LLMOps Engineer für KI-Services (m/w/d)

techport • Hannover

On-site
EUR 70,000 - 95,000
Cobol- und Java-Entwickler (m/w/d)
Cobol- und Java-Entwickler (m/w/d)

Finanz Informatik • Hannover

On-site
EUR 70,000 - 95,000
Altersvorsorge
Barrierefrei
Betriebssport
+9
Business Development Manager - Strategie & Governance (m/w/d)
Business Development Manager - Strategie & Governance (m/w/d)

Finanz Informatik GmbH & Co. KG • Hannover

On-site
EUR 90,000 - 130,000
Altersvorsorge
Barrierefrei
Betrieblicher Sport
+9