AI Platform Engineer - LLMOps (m/w/d)

BRUNO BADER GmbH + Co. KG; Pforzheim; Vor Ort; EUR 70.000 - 100.000; Vollzeit

Benefits dieser Stelle

Unbefristeter Arbeitsvertrag

40-Stunden-Woche

30 Tage Urlaub

Gleitzeitmodell

Mobil arbeiten möglich

Kantine & Wasser kostenlos

Gesundheitsmanagement

Personalrabatt

Zusammenfassung

BADER sucht am Standort Pforzheim einen AI Platform Engineer – LLMOps (m/w/d) zur Betreuung unserer KI-Infrastruktur. Du bist verantwortlich für GPU-Server, Treiber, CUDA, Docker sowie Monitoring und Updates, damit unsere LLM-Pipelines stabil arbeiten.

Du bringst Erfahrung mit Linux, Docker, Python oder Bash mit, idealerweise Open-Source-Modelle (vLLM, LiteLLM) lokal betreibst und dich in der NVIDIA-GPU-Stack auskennst.

Qualifikationen

• Linux und Docker-Erfahrung; Automatisierung mit Python oder Bash.
• Erfahrung mit Open-Source-LLMs und lokalen LLM-Pipelines.
• Deutsch mind. C1 und gute Englischkenntnisse.
• Strukturierte Arbeitsweise, Lernbereitschaft und Teamfähigkeit.

Aufgaben

• KI-Infrastruktur betreuen: GPU-Server, Treiber, CUDA, Docker, Monitoring und Updates.
• Lokale LLMs starten, Open-Source-Modelle testen und betreiben (z. B. vLLM, LiteLLM).
• KI im Unternehmen zugänglich machen: LibreChat betreuen und integrieren.
• Modelle benchmarken: Qualität, Geschwindigkeit und Ressourcennutzung vergleichen.
• LLM-Pipelines und Automatisierung aufbauen und Prozesse integrieren.

Kenntnisse

Linux

Docker

Python

Bash

LLM deployment

GPU stack

Monitoring

Deutsch C1

Englisch Docs

Ausbildung

MINT-Studium/Informatik

Tools

vLLM

LiteLLM

CUDA

NVIDIA GPU Stack

Jobbeschreibung

Hallo, wir sind die Abteilung Data Analytics! Wir vereinen 18 Spezialistinnen und Spezialisten in den Teams Data Engineering, Analytics & Reporting (BI) sowie Data Science (AI). Gemeinsam machen wir Daten im gesamten Unternehmen nutzbar – durch den Aufbau zuverlässiger Datenpipelines, die Entwicklung aussagekräftiger Reports zur Steuerung und Optimierung von Prozessen, den Einsatz praxisnaher KI-Modelle und die daten- und toolgestützte Automatisierung von Abläufen.

Wir suchen für unseren Standort Pforzheim: AI Platform Engineer – LLMOps (m/w/d)

Unser Ziel ist es, Prozesse ganzheitlich und messbar zu verbessern und fundierte, datengetriebene Entscheidungen zu ermöglichen. Dafür setzen wir intern konsequent auf Automatisierung. So schaffen wir Freiräume für neue Themen und die Weiterentwicklung bestehender Lösungen, statt Zeit in die manuelle Verwaltung abgeschlossener Projekte zu investieren. Gleichzeitig profitieren wir von kurzen Entscheidungswegen und viel Raum für fachliche und technologische Weiterentwicklung.

Da wir in unseren Projekten teamübergreifend zusammenarbeiten, gibt es bei uns keine starren Silos. Welches Team am besten zu dir passt, finden wir gemeinsam im Bewerbungsprozess heraus – flexibel und passend zu deinen individuellen Stärken und Interessen.

Du hast Lust, technische Probleme zu verstehen, neue Technologien auszuprobieren und aus einer Idee eine funktionierende Lösung zu machen? Dann bist du bei uns genau richtig! Egal, wo du gerade stehst: Ob direkt nach dem Abschluss oder mit mehreren Jahren Berufserfahrung – Aufgaben und Verantwortung passen wir an deinen Erfahrungsstand an. Wichtiger als ein perfekter Lebenslauf ist uns deine Begeisterung für das Thema.

Deine Benefits:

• Unternehmenskultur: Wir bieten Dir einen sicheren Arbeitsplatz in einem familiären Betriebsklima. Passend dazu erhältst du einen unbefristeten Arbeitsvertrag.
• Work-Life-Balance: Du arbeitest 40 Stunden pro Woche. Neben 30 Tagen Urlaub sowie Sonderurlaub bei besonderen Anlässen haben wir die Möglichkeit, unsere Arbeitszeiten durch das Gleitzeitmodell flexibel zu gestalten und tageweise mobil zu arbeiten.
• Dein Weg zur Arbeit: Dein Fahrzeug kannst Du gerne auf unserem kostenlosen Mitarbeiterparkplatz ab–stellen. Auch mit öffentlichen Verkehrsmitteln wie Bus oder Bahn sind wir gut zu erreichen. Wenn Du künftig mit dem Fahrrad zur Arbeit radeln möchtest, könnte unser Dienstrad-Leasing interessant für Dich sein.
• Weitere attraktive Benefits: Für Dein leibliches Wohl wird in unserer subventionierten Kantine sowie mit kostenfreiem Mineralwasser gesorgt. Deine Gesundheit ist unser wichtigstes Gut, daher haben wir ein betriebliches Gesundheitsmanagement eingerichtet. Außerdem erhältst Du beim Einkauf bei BADER einen attraktiven Personalrabatt.

Deine Herausforderung:

• KI‑Infrastruktur betreuen: Gemeinsam mit dem Team kümmerst du dich um unsere GPU-Server, von Treibern und CUDA über Docker bis hin zu Monitoring und Updates. Du sorgst dafür, dass alles stabil läuft.
• Lokale LLMs an den Start bringen: Du probierst neue Open‑Source‑Modelle aus, bringst die besten mit vLLM in den Betrieb und machst sie über LiteLLM für unsere Anwendungen verfügbar.
• KI im Unternehmen zugänglich machen: Du betreust LibreChat, unseren unternehmensweiten KI‑Chat, von der Nutzerverwaltung über Updates bis zur Anbindung neuer Modelle und Tools.
• Messen statt raten: Mit eigenen Benchmarks vergleichst du Modelle und Konfigurationen, etwa nach Qualität, Geschwindigkeit und Ressourcenbedarf. So findest du heraus, welches Modell für welchen Anwendungsfall am besten passt.
• Brücke in die Prozesse: Du unterstützt unsere Teams dabei, KI in bestehende Abläufe einzubinden. Wenn du Lust hast, baust du auch selbst LLM‑Pipelines und Automatisierungen, denn niemand kennt die Plattform so gut wie du.

Perspektive & Verantwortung: Du startest mit so viel Eigenverantwortung, wie zu deiner Erfahrung passt: mit Rückendeckung aus dem Team oder direkt eigenständig. Schritt für Schritt übernimmst du mehr, bis hin zur technischen Leitung unserer KI‑Plattform.

Dein Profil:

• Motivation an erster Stelle: Du willst verstehen, wie KI unter der Haube funktioniert, und hast Spaß daran, Neues auszuprobieren. Diese Neugier zählt für uns genauso viel wie Erfahrung, denn im LLM‑Umfeld lernen wir alle ständig dazu.
• Dein Hintergrund: Du hast ein MINT‑Studium, z. B. (Wirtschafts‑)Informatik, oder eine Ausbildung, etwa als Fachinformatiker für Systemintegration (m/w/d), abgeschlossen oder stehst kurz davor. Auch ein Quereinstieg, etwa aus der Systemadministration oder der Softwareentwicklung, ist herzlich willkommen.
• Technisches Know‑how: Du hast erste Erfahrung mit Linux und Docker und kannst kleinere Aufgaben mit Python oder Bash automatisieren. Kenntnisse in vLLM, LiteLLM, dem NVIDIA‑GPU‑Stack oder Monitoring‑Tools sind Pluspunkte, aber kein Muss.
• KI‑Affinität: Idealerweise hast du schon einmal ein LLM lokal zum Laufen gebracht, z. B. mit Ollama auf dem eigenen Rechner. Wenn nicht, bringst du die Lust mit, genau das zu lernen. Private Projekte und dein Homelab zählen bei uns als echte Erfahrung.
• Was dich auszeichnet: Du arbeitest strukturiert, gehst Problemen gern auf den Grund und fragst nach, wenn du nicht weiterkommst. Technische Zusammenhänge erklärst du verständlich, auch Kolleginnen und Kollegen ohne IT‑Hintergrund.
• Sprache: Du sprichst verhandlungssicher Deutsch (mind. C1) und kommst mit englischer Fachdokumentation gut zurecht.

BADER ist ein Multichannel‑Distanzhändler mit über 95‑jähriger Geschichte. Familiengeführt in dritter Generation gehört BADER zu den attraktivsten Arbeitgebern der Region. Eine Kultur des Miteinanders sichert den wirtschaftlichen Erfolg in einem Unternehmen mit flachen Hierarchien und kurzen Wegen. BADER wächst und entwickelt sich stetig weiter - deshalb freuen wir uns, wenn auch Du bald unser BADER‑Team unterstützt.