AI Platform Engineer (m/f/d)

AMDT; Landau in der Pfalz; Vor Ort; EUR 90.000 - 130.000; Vollzeit

Benefits dieser Stelle

Flexible Arbeitsmöglichkeiten

Zusätzliche Krankenversicherung

Kontinuierliches Lernen (Preply)

Feier von Meilensteinen

Zusammenfassung

AMDT sucht eine erfahrene Fachperson zur Architektur und dem Betrieb von KI-/LLM-Plattformen in einem interdisziplinären Team. Sie verantworten Infrastruktur, Guardrails und wiederverwendbare Bausteine, arbeiten an lokalen Modellen/Self-Hosting und evaluieren Quantisierung sowie Ressourcenbedarf.

Fokus liegt auf effizienten, pragmatischen Lösungen. Der Aufgabenkomplex umfasst CI/CD, Monitoring, Betrieb von Inferenz-Workloads und die klare Präsentation von Ergebnissen an Fach- und Business-Teams.

Qualifikationen

• Tiefes Verständnis und praktische Erfahrung im Betrieb von KI-/LLM-Anwendungen in einem Unternehmen
• Operative Erfahrung mit lokalen Modellen / Self-Hosting von LLMs inkl. Quantisierung und Ressourcendimensionierung
• Mehrjährige, fundierte praktische Erfahrung in der Entwicklung von Softwarelösungen, davon signifikanter Anteil in C# / .NET
• Erfahrung mit Containerisierung (Docker), CI/CD und Betriebsthemen
• Kostenbewusstsein: KI-Consumption messen, einordnen und optimieren
• Gute Übersicht über aktuelle KI-Trends und verfügbare Off-the-shelf-Lösungen
• Sehr gute Deutschkenntnisse (und gutes Englisch)
• Große Reisebereitschaft ins HQ in Landau (ca. 5–10 % der Arbeitszeit)

Aufgaben

• Architekturvorgaben für KI-/LLM-Plattformen entwickeln, betreiben und skalieren
• Lokale/self-hosted LLMs evaluieren, einrichten und betreiben
• KI-Consumption messen, Make-or-Buy-Entscheidungen erläutern
• Guardrails und Standards für schnelle, sichere KI-Entwicklung etablieren
• Prototypen in tragbare, betreibbare Zustände überführen und übergeben

Kenntnisse

KI-/LLM-Betrieb

Self-Hosting von LLMs

Containerisierung (Docker)

CI/CD

Kosten/Effizienz-Management

Deutschkenntnisse

Reisebereitschaft

Tools

Docker

Jobbeschreibung

Role Overview

So arbeiten wir – bitte aufmerksam lesen

Diese Stelle passt nicht zu jedem, und das ist Absicht. Damit du einschätzen kannst, ob sie zu dir passt:

• Du baust die Schienen, nicht nur die Züge. Während die anderen KI-Rollen an konkreten Use-Cases arbeiten, verantwortest du das Querschnittliche: Infrastruktur, Frameworks, wiederverwendbare Bausteine, Guardrails. Deine Arbeit zahlt sich darin aus, dass andere schneller und sicherer liefern können.

• Effizienz ist dein ständiger Maßstab. KI-Consumption – Token, Compute, API-Kosten – wächst schnell und unbemerkt. Du behältst sie im Blick, triffst fundierte Make-or-Buy-Entscheidungen (lokal vs. Cloud, selbst bauen vs. einkaufen) und kannst sie begründen.

• Du wirst öfter "nein" sagen als "ja". Nicht jede schöne Idee braucht eigene Infrastruktur, und nicht jedes Modell muss selbst gehostet werden. Du erkennst, wann der pragmatische Weg der bessere ist – und vertrittst das auch gegenüber begeisterten Kolleginnen und Kollegen.

• Jedes Teammitglied handelt sehr autonom. Du setzt dir deinen eigenen Maßstab und prüfst deine eigenen Ergebnisse kritisch, bevor jemand anderes es tut. Austausch und Feedback gibt es selbstverständlich – aber die Qualitätssicherung deiner Arbeit beginnt bei dir.

• Du bist der Spezialist für dein Gebiet. Unser Team ist bewusst interdisziplinär aufgestellt, mit kaum Überlappungen zwischen den Disziplinen. Du hast Spezialisten für Frontend, Backend, UX und KI-Anwendungen an deiner Seite – aber Plattform, Betrieb und Effizienz sind dein Feld, und du verantwortest es fachlich selbst.

• Wir entwickeln AI-gestützt – konsequent. Tools wie Claude Code oder Cursor sind bei uns Alltag, nicht Experiment. Das verschiebt den Schwerpunkt der Arbeit: weniger Code selbst tippen, mehr Architektur vorgeben und Ergebnisse kritisch prüfen. Du musst nicht jede Zeile selbst geschrieben haben – aber du stehst für jede Zeile gerade, die du ablieferst.

• Wöchentliche Freiräume sind fest eingeplant – rund 10 % deiner Arbeitszeit. Zeit für fachliche Weiterentwicklung, eigene Ideen und kreativen Austausch ist bei uns Teil der Arbeitswoche – kein Nice-to-have, das im Tagesgeschäft verdampft.

• Ergebnisgetrieben und prozessual schlank. Wir brauchen schnelle, pragmatische Lösungen, die im Alltag funktionieren – keine über Monate ausgefeilten 100%-Systeme. Die Plattform wächst mit den realen Bedürfnissen, nicht mit theoretischen.

Wenn du am produktivsten bist, wenn dir jemand eine fertige Architektur und ein abgestecktes Backlog vorlegt, wirst du bei uns nicht glücklich. Wenn dich reizt, ein Fundament aus dem Nichts zu bauen, auf dem andere aufbauen – dann lies weiter.

Unser Stack

Wir implementieren produktnah überwiegend in C# / .NET. Python nutzen wir, wo es sinnvoll ist – für Prototypen, KI-spezifische Werkzeuge, Datenarbeit und Tooling. Der Schwerpunkt liegt aber klar auf C#. Unsere Frontends bauen wir in React – für diese Rolle kein Muss, aber nützlich. Für KI-Betrieb und -Infrastruktur erwarten wir Vertrautheit mit gängigen Inferenz- und Orchestrierungs-Frameworks sowie mit Containerisierung.

• Die technische Plattform für unsere KI-Anwendungen konzipieren, aufbauen und betreiben: Modell-Hosting, Inferenz, API-Gateways/Routing, wiederverwendbare Bausteine

• Lokale / self-hosted LLMs evaluieren, einrichten und betreiben – inklusive Quantisierung, GPU-Dimensionierung und Performance

• KI-Consumption und -Kosten transparent machen und aktiv steuern; fundierte Make-or-Buy- und Lokal-vs.-Cloud-Entscheidungen treffen und begründen

• Frameworks, Tools und Standards für das Team auswählen und etablieren – Guardrails, die KI-Entwicklung schneller und sicherer machen

• Erfolgreiche Prototypen der anderen KI-Rollen in einen tragfähigen, betreibbaren Zustand bringen – bis hin zur Übergabe an R&D oder in den produktiven Betrieb

• CI/CD, Monitoring und Betriebsthemen für KI-Lösungen verantworten

• Ergebnisse und Empfehlungen gegenüber Fach- und Business-Teams präsentieren – auf dem jeweiligen technischen Niveau deines Gegenübers

Your Profile

• Tiefes Veständnis und praktische Erfahrung im Betrieb von KI-/LLM-Anwendungen in einem Unternehmen: Inferenz-Frameworks (z. B. vLLM, Ollama, llama.cpp, TGI), API-Gateways/Routing (z. B. LiteLLM), RAG- und Embedding-Infrastruktur

• Operative, im Unternehmenskontext angewandte Erfahrung mit lokalen Modellen / Self-Hosting von LLMs – inklusive Quantisierung und Ressourcendimensionierung

• Mehrjährige, fundierte praktische Erfahrung innerhalb eines Unternehmens in der Entwicklung von Softwarelösungen, davon ein solider Teil in C# / .NET – mit erkennbarer technischer Tiefe

• Erfahrung mit Containerisierung (Docker), CI/CD und Betriebsthemen

• Ein waches Auge für Kosten und Effizienz – du kannst KI-Consumption messen, einordnen und optimieren

• Gute Übersicht über aktuelle Trends, verfügbare Off-the-shelf-Lösungen und neue Entwicklungen im KI-Umfeld – du weißt, wann man baut und wann man kauft

• Sehr gute Deutschkenntnisse (Teamsprache ist Deutsch) und gute Englischkenntnisse

• Überwiegende Arbeit im Homeoffice, Bereitschaft zu regelmäßigen Reisen in unser HQ in Landau (ca. 5–10 % der Arbeitszeit)

Must have

• Praktische Erfahrung innerhalb eines Unternehmens mit lokalen Modellen / Self-Hosting von LLMs – inklusive Quantisierung und Ressourcendimensionierung

• Praktische Erfahrung innerhalb eines Unternehmens im Betrieb von KI-/LLM-Anwendungen: Inferenz-Frameworks (z. B. vLLM, Ollama, llama.cpp, TGI), API-Gateways/Routing (z. B. LiteLLM), RAG- und Embedding-Infrastruktur

• Erfahrung mit Containerisierung (Docker), CI/CD und Betriebsthemen

• Du kannst "nein" sagen, ohne Türen zu schließen und ein Scheitern eingestehen, auch wenn du schon Aufwand investiert hast

Nice to have

• Erfahrung in der fachlichen Führung oder Anleitung von Entwicklern

• Gute Python-Kenntnisse für Tooling und Prototyping

• Erfahrung mit Datenaufbereitung und -pipelines (ETL/ELT)

• React / moderne Web-Frontends

• Erfahrung mit GPU-Infrastruktur und Kostenoptimierung im Cloud-Umfeld

That sounds like you?

• Du denkst in Systemen und Fundamenten, nicht nur in einzelnen Lösungen – und baust so, dass andere darauf aufbauen können.

• Du hast ein gutes Gespür für Verhältnismäßigkeit – du baust die Infrastruktur, die das Problem braucht, nicht die größtmögliche. Und du erkennst, wann der pragmatische Weg der richtige ist.

• Du kannst "nein" sagen, ohne Türen zu schließen – und ein Scheitern eingestehen, auch wenn du schon Aufwand investiert hast.

• Du prüfst deine eigenen Ergebnisse kritisch, bevor jemand anderes es tut.

• Ein offenes Auge für Defizite und Potenziale, technisch wie organisatorisch

Reasons to become part of AMDT

• Transformative Möglichkeiten und integrative Kultur: Werde Teil eines dynamischen, sich weiterentwickelnden Unternehmens, in dem Wachstum gefördert wird, deine Beiträge geschätzt werden und du in einer vielfältigen, unterstützenden Gemeinschaft zusammenarbeiten und dich entfalten kannst.
• Flexible Arbeitsmöglichkeiten: Arbeite so, wie es für dich am besten ist – remote, hybrid oder in unserem hochmodernen Büro.
• Zukunftssicherheit: Wir investieren in deine Zukunft und leisten einen Beitrag von 20 % zu einem umfassenden betrieblichen Alterversversongung.
• Zusätzliche Krankenversicherung: Genieße zusätzliche Sicherheit mit einer Krankenzusatzversicherung, die dein Wohlbefinden über das Grundlegende hinaus unterstützt.
• Unternehmensvorteile: Profitiere von exklusiven Rabatten auf ausgewählte Marken, um deinen Alltag zu bereichern.
• Kontinuierliches Lernen: Nutze Preply für einfaches Sprachenlernen und unterstütze so deine persönliche und berufliche Entwicklung.
• Meilensteine feiern: Freue dich über Geschenke zu wichtigen Lebensereignissen wie Heirat, Geburt eines Kindes oder deinem Jubiläum bei uns.

Contact us

Wenn Du Fragen zu der Stelle haben solltest, wende Dich bitte an unser Recruiting-Team (Chiara & Dirk) unter [e-mail] mit Verweis auf den Titel der Stelle