742/B - LLMOps Engineer für KI-Services (m/w/d)

Finanz Informatik GmbH & Co. KG

Hannover

On-site

EUR 70,000 - 110,000

Full time

10 days ago

Get a reply from this employer

Your resume and cover letter, tailored to exactly what they’re hiring for.

Get past ATS filters

Job summary

Die Finanz Informatik GmbH & Co. KG sucht am Standort Hannover/Münster/Frankfurt einen LLMOps Engineer für KI-Services. Sie arbeiten an skalierbaren KI-Lösungen, von Kundenanforderungen über Implementierung bis Betrieb.

Sie arbeiten eng mit AI Engineering, System Engineering und Softwareentwicklung und setzen modernste Technologien wie Kubernetes, ArgoCD, Helm, GitHub Actions sowie Redis ein. Die Rolle bietet spannende Perspektiven im Banken-Umfeld.

Qualifications

  • Abgeschlossenes Studium der Informatik, Wirtschaftsinformatik oder eine vergleichbare Ausbildung.
  • Erste fachbezogene Berufserfahrung in IT/KI-Umfeld.
  • Erfahrung mit CI/CD-Pipelines (Jenkins/GitHub/GitLab).
  • Grundkenntnisse mit Helm-Charts und ArgoCD.
  • Interesse an LLM-Inference-Tools.

Responsibilities

  • Unterstützung beim Aufbau und Betrieb von Build-/Test-/Deployment-Pipelines für Container-Anwendungen.
  • Arbeiten mit Helm-Charts und ArgoCD zur Bereitstellung in Kubernetes-Clustern.
  • Integration unimodaler/multimodaler KI-Modelle mit Tools wie Nvidia Triton und HuggingFace-Komponenten.
  • Mitwirkung beim Betrieb zentraler Redis-Instanzen für hohe Verfügbarkeit und Sicherheit.
  • Enge Zusammenarbeit mit Fachbereichen und Entwicklern bei Architekturentscheidungen und Plattform-Verbesserungen.
  • Entwicklung von Standards und Best-Practice-Empfehlungen für produktiven Redis-Einsatz.
  • Unterstützung interne Fachbereiche bei Redis-Fragen (Caching, Streams, Queues, Pub/Sub).

Skills

Analytisches Denken
Lösungsorientierte Arbeitsweise
Teamfähigkeit
Bereitschaft Rufbereitschaft
Selbstständiges Arbeiten

Education

Abgeschlossenes Studium der Informatik oder Wirtschaftsinformatik

Tools

Kubernetes
ArgoCD
Helm
GitHub Actions
NVIDIA Triton
HuggingFace TGI/TEI
Redis

Job description

Als einer der größten Banken-IT-Dienstleister und Digitalisierungspartner Europas sind wir der Treiber der Digitalisierung innerhalb der Sparkassen-Finanzgruppe. Mit über 5.000 Mitarbeitenden an 3 Standorten machen wir digitales Banking von heute leistungsfähig und entwickeln smarte Finanz-Services von morgen. Dabei bieten wir ein breites Aufgabenspektrum, in dem die individuellen Stärken hervorragend eingebracht werden können. Ob App-Entwicklung, Netzwerktechnologien und Serverbetrieb oder Beratung, Schulung und Support – bei uns findet jede:r seine bzw. ihre Berufung! Als Spezialist:in oder auch als Generalist:in. Alles mit besten Karrierechancen, viel Raum für persönliche Entfaltung und zahlreichen Benefits.

Für die Organisationseinheit KI Plattform, suchen wir zum nächstmöglichen Termin für den Standort Hannover, Münster oder Frankfurt einen LLMOps Engineer für KI-Services (m/w/d)

Unser Team stellt die zentrale KI- und Data Analytics Plattform der Finanz Informatik für interne und externe Kunden wie Sparkassen und Verbundpartner bereit.

In deiner Rolle als Technischer Projektmanager gestaltest du aktiv die technische Basis für skalierbare, sichere und performante KI-Lösungen – von der Kundenanforderung, Planung, über Umsetzung bis hin zum Modellbetrieb. Du gestaltest gemeinsam mit Experten aus AI Engineering, System Engineering und Softwareentwicklung KI-Anwendungen und Prozesse für datengetriebenes Banking für über 50 Millionen Kunden.

Mit unserer Plattform setzen wir auf moderne Technologien wie Kubernetes, ArgoCD, Helm, GitHub Actions, Nvidia Triton, Huggingface TGI/TEI, arbeiten mit Partnern wie Nvidia oder Mistral AI eng zusammen – und suchen Kollegen, die sich organisatorisch in die Planung, Integration und Umsetzung neuer KI-Anwendungen einbringen und dabei die Compliance im Blick haben.

Übernimm eigenständig Aufgaben, die für die Weiterentwicklung der KI und Data Analytics Plattform wesentlich sind. Dabei wirkst du aktiv in einem dynamischen und aufgeweckten Team an der Implementierung von State-of-the-Art Systemtechnologien im Finanzsektor mit.

Aufgaben:
  • Unterstützung beim Aufbau und der Pflege von Build-, Test- und Deployment-Pipelines für Container-Applikationen (z.b. Jenkins, GitHub Actions oder GitLabCI)
  • Arbeit mit Helm-Charts und ArgoCD, um Container-Anwendungen in Kubernetes-Clustern zu deployen
  • Unterstützung bei der Integration unimodaler (LLM, OCR, SST/TTS) und multimodaler KI-Modelle mit Tools wie Nvidia Triton, NIM oder HuggingFace-Komponenten (TGI, TEI, vLLM)
  • Unterstützung beim Betrieb unserer zentralen Redis-Instanzen und Mitwirkung um sicherzustellen, dass sie hochverfügbar, sicher und performant bleiben
  • Enge Zusammenarbeit mit Kolleg*innen aus unterschiedlichen Fachbereichen, Einbringung von Perspektiven in Architektur Entscheidungen und Unterstütztung bei der Weiterentwicklung unserer Plattform-Dienste
  • Gemeinsame Entwicklung erster Standards und Best-Practice-Empfehlungen für den produktiven Einsatz von Redis mit erfahrenen Kolleg*innen
  • Unterstützung interner Fachbereiche und Entwickler*innen bei Fragen zum Einsatz von Redis, insbesondere zu Themen wie Caching, Streams, Queues, Pub/Sub und der Auswahl passender Datenstrukturen
Profil:
  • Abgeschlossenes Studium der Informatik, Wirtschaftsinformatik oder eine vergleichbare Ausbildung
  • Erste fachbezogene Berufserfahrung
  • Erste Erfahrung mit kleineren Continuous-Integration/Continuous-Delivery-Pipelines mit Tools wie Jenkins, GitHub oder GitLab
  • Grundkenntnisse mit Helm-Charts und Basis-Verständnis von deklarativen Deployments über ArgoCD
  • Idealerweise erste Berührungspunkte mit LLM-Inference-Tools
  • Analytisches und kreatives Denken sowie selbständige und lösungsorientierte Arbeitsweise
  • Bereitschaft, bei Bedarf auch nachts oder an Wochenenden im Rahmen der Rufbereitschaft zu unterstützen – zum Beispiel bei kritischen Deployments oder System-Incidents

Wir freuen uns über alle Bewerbungen, unabhängig von Geschlecht, Alter, Behinderung, Religion, ethnischer Herkunft oder sexueller Identität, unter Angabe der Kennziffer 742/B.

Get your free, confidential resume review.

or drag and drop your file here.

Similar jobs

Similar jobs worth comparing

741/B - LLMOps Engineer für CI / CD & Inference Services (m/w/d)
741/B - LLMOps Engineer für CI / CD & Inference Services (m/w/d)

Finanz Informatik GmbH & Co. KG • Frankfurt

On-site
EUR 90,000 - 130,000
LLMOps Engineer für KI-Services (m/w/d)
LLMOps Engineer für KI-Services (m/w/d)

Finanz Informatik GmbH & Co. KG • Hannover

On-site
EUR 70,000 - 100,000
LLMOps Engineer für KI-Services (m/w/d)
LLMOps Engineer für KI-Services (m/w/d)

Finanz Informatik • Hannover

On-site
EUR 65,000 - 90,000
Flexible Arbeitszeiten
Mobiles Arbeiten
Jobticket
+1
LLMOps Engineer für CI / CD & Inference Services (m/w/d)
LLMOps Engineer für CI / CD & Inference Services (m/w/d)

Finanz Informatik GmbH & Co. KG • Frankfurt

On-site
EUR 80,000 - 110,000
LLMOps Engineer für CI / CD & Inference Services (m/w/d)
LLMOps Engineer für CI / CD & Inference Services (m/w/d)

Finanz Informatik GmbH & Co. KG • Hannover

On-site
EUR 90,000 - 130,000
Altersvorsorge
Barrierefrei
Betriebssport
+9
LLMOps Engineer für CI / CD & Inference Services (m/w/d)
LLMOps Engineer für CI / CD & Inference Services (m/w/d)

Finanz Informatik • Hannover

On-site
EUR 90,000 - 120,000
Altersvorsorge
Barrierefrei
Betriebssport
+9
E362/B - AI Engineer / KI-Entwickler (m/w/d)
E362/B - AI Engineer / KI-Entwickler (m/w/d)

Finanz Informatik GmbH & Co. KG • Frankfurt

On-site
EUR 70,000 - 100,000
Data Platform Ops Engineer (m/w/d)
Data Platform Ops Engineer (m/w/d)

Finanz Informatik • Frankfurt

On-site
EUR 70,000 - 95,000
AI Engineer / KI-Entwickler
AI Engineer / KI-Entwickler

Finanz Informatik • Münster

On-site
EUR 70,000 - 95,000
AI Engineer / KI-Entwickler
AI Engineer / KI-Entwickler

Finanz Informatik • Hannover

On-site
EUR 70,000 - 110,000