741/B - LLMOps Engineer für CI / CD & Inference Services (m/w/d)

Finanz Informatik GmbH & Co. KG

Frankfurt

On-site

EUR 90,000 - 130,000

Full time

9 days ago

A complete application in a minute

Tailored resume and cover letter, ready to send.

Get past ATS filters

Job summary

Finanz Informatik GmbH & Co. KG in Frankfurt, Hannover oder Münster sucht eine/n LLMOps Engineer für CI/CD & Inference Services. Du gestaltest die technische Basis für skalierbare KI-Lösungen, automatisierst Bereitstellung, Inferenzinfrastruktur und Modellbetrieb.

Zusammenarbeit mit AI Engineering, System Engineering und Softwareentwicklung. Du arbeitest mit Kubernetes, ArgoCD, Helm, GitHub Actions, Nvidia Triton, Huggingface TGI/TEI, und Partnern wie Nvidia/Mistral AI.

Qualifications

  • Abgeschlossenes Informatikstudium oder vergleichbare Ausbildung.
  • Mindestens 6 Jahre Berufserfahrung in der IT/Softwareentwicklung.
  • Erfahrung im Betrieb verteilter Systeme, ideal Redis oder NoSQL-Technologien.
  • Bereitschaft zu Nacht-/Wochenenddiensten sowie Rufbereitschaft.

Responsibilities

  • Verantwortung für die Automatisierung von Build-, Test- und Deployment-Prozessen unserer Container-Anwendungen mittels Jenkins, GitHub Actions oder GitLab CI.
  • Orchestrierung von Containern mit Helm und ArgoCD in Kubernetes-Clustern; Gewährleistung sicherer, reproduzierbarer Deployments.
  • Betrieb und Administration unserer Redis-Plattformservices; hochverfügbarer, sicherer Betrieb.
  • Beratung interner Kunden und Entwicklungsteams bei Einsatz von Redis; Unterstützung bei Architekturentscheidungen.
  • Bereitstellung und Betrieb von KI-/Plattformservices; Weiterentwicklung der Plattform.

Skills

CI/CD Pipelines
Kubernetes
ArgoCD
Helm
GitHub Actions
Redis
Teamfähigkeit
Analytisches Denken

Education

Informatikstudium oder vergleichbare Ausbildung

Tools

Redis
Kubernetes
ArgoCD
Helm
GitHub Actions
Jenkins
GitLab CI

Job description

Als einer der größten Banken-IT-Dienstleister und Digitalisierungspartner Europas sind wir der Treiber der Digitalisierung innerhalb der Sparkassen-Finanzgruppe. Mit über 5.000 Mitarbeitenden an 3 Standorten machen wir digitales Banking von heute leistungsfähig und entwickeln smarte Finanz-Services von morgen. Dabei bieten wir ein breites Aufgabenspektrum, in dem die individuellen Stärken hervorragend eingebracht werden können. Ob App-Entwicklung, Netzwerktechnologien und Serverbetrieb oder Beratung, Schulung und Support – bei uns findet jede:r seine bzw. ihre Berufung! Als Spezialist:in oder auch als Generalist:in. Alles mit besten Karrierechancen, viel Raum für persönliche Entfaltung und zahlreichen Benefits.

Für die Organisationseinheit KI Plattform suchen wir zum nächstmöglichen Termin für den Standort Hannover, Münster oder Frankfurt einen LLMOps Engineer für CI / CD & Inference Services (m/w/d)

Unser Team stellt die zentrale KI- und Data Analytics Plattform der Finanz Informatik für interne und externe Kunden wie Sparkassen und Verbundpartner bereit.

In der Rolle als MLOps Engineer gestaltest du aktiv die technische Basis für skalierbare, sichere und performante KI-Lösungen – von der automatisierten Bereitstellung über Inferenzinfrastruktur bis hin zum Modellbetrieb. Du entwickelst gemeinsam mit Experten aus AI Engineering, System Engineering und Softwareentwicklung moderne Werkzeuge und Prozesse für datengetriebenes Banking für über 50 Millionen Kunden.

Mit unserer Plattform setzen wir auf moderne Technologien wie Kubernetes, ArgoCD, Helm, GitHub Actions, Nvidia Triton, Huggingface TGI/TEI, arbeiten mit Partnern wie Nvidia oder Mistral AI eng zusammen – und suchen Kollegen, die entweder im Bereich CI/CD & Plattformautomatisierung oder im Bereich LLM-Infrastruktur & Inferenzservices ihre Expertise mit einbringen und weiter ausbauen.

Übernimm eigenständig Aufgaben, die für die Weiterentwicklung der KI und Data Analytics Plattform wesentlich sind. Dabei wirkst du aktiv in einem dynamischen und aufgeweckten Team an der Implementierung von State-of-the-Art Systemtechnologien im Finanzsektor mit.

Aufgaben:
  • Verantwortung für die Automatisierung des Build-, Test- und Deployment-Prozess für unsere Container-Anwendungen mit Jenkins, GitHub Actions oder GitLab CI und kontinuierliche Integration neuer Use Cases kontinuierlich in unsere Plattform-Pipelines
  • Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes-Clustern und Sicherstellung von sicheren, reproduzierbare Deployments
  • Betrieb und Administration unserer zentralen Redis-Plattformservices und Verantwortung für deren hochverfügbaren, sicheren und performanten Betrieb
  • Beratung unserer internen Kunden und Entwicklungsteams beim Einsatz von Redis und Unterstützung bei Architektur- und Designentscheidungen – beispielsweise bei Caching, Streams, Queues, Pub/Sub und der Auswahl geeigneter Datenstrukturen
  • Bereitstellung und Betrieb von KI- und Plattformservices und Einbringung bei Architekturentscheidungen und der Weiterentwicklung unserer Plattform
  • Enger Austausch mit Herstellern und Technologiepartnern für die zukunftsorientierte Weiterentwicklung unserer Plattformarchitektur
  • Bereitstellung von unimodalen (z.B. LLM, OCR, SST/TTS) und multimodalen KI-Modellen mittels Nvidia Triton, NIM oder Alternativen wie Huggingface TGI, TEI oder vLLM
Profil:
  • Abgeschlossenes Informatikstudium oder eine vergleichbare Ausbildung
  • Mindestens 6 Jahre stellenbezogene Berufserfahrung
  • Umfangreiche Erfahrung im Betrieb verteilter Systeme und idealerweise praktische Kenntnisse mit Redis oder vergleichbaren In-Memory-/NoSQL-Technologien
  • Gute Kenntnisse rund um Hochverfügbarkeit, Skalierung, Performance-Optimierung, Monitoring und Troubleshooting von Redis sind von Vorteil
  • Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI o. Ä.) sowie Begeisterung für moderne Plattformtechnologien und die Bereitschaft, sich sowohl mit dem technischen Betrieb als auch mit deren sinnvoller Nutzung durch Anwendungsentwickler auseinanderzusetzen
  • Teamgeist, Eigeninitiative sowie analytisches Denken und eigenverantwortliches Handeln
  • Bereitschaft für Nacht- und Wochenendeinsätze sowie Teilnahme an der Rufbereitschaft

unabhängig von Geschlecht, Alter, Behinderung, Religion, ethnischer Herkunft oder sexueller Identität

Get your free, confidential resume review.

or drag and drop your file here.

Similar jobs

Similar jobs worth comparing

LLMOps Engineer für CI / CD & Inference Services (m/w/d)
LLMOps Engineer für CI / CD & Inference Services (m/w/d)

Finanz Informatik GmbH & Co. KG • Frankfurt

On-site
EUR 80,000 - 110,000
742/B - LLMOps Engineer für KI-Services (m/w/d)
742/B - LLMOps Engineer für KI-Services (m/w/d)

Finanz Informatik GmbH & Co. KG • Hannover

On-site
EUR 70,000 - 110,000
LLMOps Engineer für KI-Services (m/w/d)
LLMOps Engineer für KI-Services (m/w/d)

Finanz Informatik GmbH & Co. KG • Hannover

On-site
EUR 70,000 - 100,000
LLMOps Engineer für CI / CD & Inference Services (m/w/d)
LLMOps Engineer für CI / CD & Inference Services (m/w/d)

Finanz Informatik • Hannover

On-site
EUR 90,000 - 120,000
Altersvorsorge
Barrierefrei
Betriebssport
+9
LLMOps Engineer für CI / CD & Inference Services (m/w/d)
LLMOps Engineer für CI / CD & Inference Services (m/w/d)

Finanz Informatik GmbH & Co. KG • Hannover

On-site
EUR 90,000 - 130,000
Altersvorsorge
Barrierefrei
Betriebssport
+9
LLMOps Engineer für KI-Services (m/w/d)
LLMOps Engineer für KI-Services (m/w/d)

Finanz Informatik • Hannover

On-site
EUR 65,000 - 90,000
Flexible Arbeitszeiten
Mobiles Arbeiten
Jobticket
+1
Data Platform Ops Engineer (m/w/d)
Data Platform Ops Engineer (m/w/d)

Finanz Informatik • Frankfurt

On-site
EUR 70,000 - 95,000
Data Platform Ops Engineer (m/w/d)
Data Platform Ops Engineer (m/w/d)

Finanz Informatik • Hannover

On-site
EUR 75,000 - 110,000
Data Platform Ops Engineer (m/w/d)
Data Platform Ops Engineer (m/w/d)

Finanz Informatik • Münster

On-site
EUR 70,000 - 110,000
742/B - LLMOps Engineer für KI-Services (m/w/d)
742/B - LLMOps Engineer für KI-Services (m/w/d)

techport • Hannover

On-site
EUR 70,000 - 95,000