AI Engineer - On-Prem LLM & RAG Infra

LEITWERK AG; Deutschland; Hybrid; USD 102,716 - 136,954; Full time

Benefits offered by this job

Wohlfühlarbeitsplatz

Mobiles Arbeiten (mehrere Tage/Woche)

Job summary

LEITWERK AG sucht einen AI Engineer (m/w/d), der KI-Systeme in Unternehmensumgebungen entwickelt, betreibt und nahtlos integriert. Du gestaltest die technische Grundlage für KI-Anwendungen und trägst maßgeblich zur Leistungsfähigkeit unserer KI-Projekte bei.

Du arbeitest an On-Premise LLMs, RAG-Systemen und KI-Infrastrukturen, entwickelst Schnittstellen, Pipelines und APIs und skalierst Lösungen sicher und zuverlässig.

Qualifications

• Erfahrung in Machine Learning, NLP oder LLm-Implementierung.
• Sicherer Umgang mit Python sowie gängigen ML-Frameworks (z.B. PyTorch, TensorFlow).
• Kenntnisse in RAG-Architekturen, Embeddings und Prompt Engineering
• Erfahrung mit MLOps/LLMOps sowie Deployment-Strategien
• Kenntnisse in Containerisierung (Docker, Kubernetes)
• Verständnis von IT-Infrastruktur, Netzwerken und IT-Security
• Strukturierte, analytische und lösungsorientierte Arbeitsweise
• Abgeschlossenes Studium, z.B. in Informatik, Data Science, Ingenieurwesen oder eine vergleichbare Qualifikation

Responsibilities

• KI-Systeme in Unternehmensumgebungen entwickeln, betreiben und integrieren.
• On-Premise GPTs und RAG-Lösungen stabil, sicher und performant betreiben.
• Schnittstellen, Pipelines und APIs entwickeln und integrieren.
• KI-Lösungen in Infrastruktur skalieren und überwachen.
• Sicherheit und Stabilität der Systeme sicherstellen.

Skills

Machine Learning

NLP/LLM-Implementierung

Python

ML Frameworks

MLOps/LLMOps

Docker

Kubernetes

IT-Security-Grundlagen

Analytische Arbeitsweise

Education

Abgeschlossenes Studium in Informatik/Data Science/Ingenieurwesen oder vergleichbare Qualifikation

Tools

Python

PyTorch

TensorFlow

Docker

Kubernetes

APIs

Job description

Einsatzort: Appenweier, Freiburg im Breisgau

Du denkst in Systemen, verstehst Datenarchitekturen und willst KI nicht nur nutzen, sondern die technische Grundlage dafür schaffen? Du möchtest leistungsstarke KI-Infrastrukturen entwickeln und betreiben, die im Alltag wirklich funktionieren?

‚Dann komm als Persönlichkeit zum Q‑FOX ® !‘

Künstliche Intelligenz verändert die Arbeitswelt – entscheidend ist, was Unternehmen daraus machen.

Der AI FOX ® ist der Spezialist für Künstliche Intelligenz innerhalb der Q-FOX ® Gruppe und macht KI dort nutzbar, wo sie im Unternehmensalltag echten Mehrwert schaffen kann. Wir unterstützen von der KI-Strategie über die Identifikation und Umsetzung konkreter Use Cases bis hin zu intelligenten Lösungen, Agentensystemen und KI-gestützten Geschäftsprozessen. Die enge Zusammenarbeit mit den anderen Inhaltsgesellschaften sorgt für kurze Wege, fachübergreifenden Austausch und direkten Praxisbezug.

Wer bei uns arbeitet, bringt KI dorthin, wo sie im Unternehmensalltag Wirkung zeigt: in Prozesse, Anwendungen und Lösungen, die den Arbeitsalltag verändern und Unternehmen voranbringen.

Worum es geht

Als AI Engineer (m/w/d) entwickelst, betreibst und integrierst Du KI-Systeme in Unternehmensumgebungen.
Du stellst sicher, dass Modelle wie On-Premise GPTs und RAG-Lösungen stabil, sicher und performant laufen – und bildest damit das technische Rückgrat unserer KI-Projekte.

Was Dich erwartet

Aufbau, Konfiguration und Betrieb von On-Premise-LLMs, RAG-Systemen und KI-Infrastrukturen

Entwicklung und Integration von Schnittstellen, Pipelines und APIs

Deployment und Skalierung von KI-Lösungen in Unternehmensumgebungen

Performance-Tuning, Monitoring und Absicherung der KI-Systeme

Sicherstellung von Stabilität, Effizienz und Sicherheit der Infrastruktur

Technische Evaluierung neuer Modelle, Tools und Architekturen

Enge Zusammenarbeit mit AI Consultants, Developern und Kundenteams

Was wir erwarten

Erfahrung im Bereich Machine Learning, NLP oder LLM-Implementierung

Sicherer Umgang mit Python sowie gängigen ML-Frameworks (z.B. PyTorch, TensorFlow)

Kenntnisse in RAG-Architekturen, Embeddings und Prompt Engineering

Erfahrung mit MLOps / LLMOps sowie Deployment-Strategien

Kenntnisse in Containerisierung (Docker, Kubernetes)

Verständnis von IT-Infrastruktur, Netzwerken und IT-Security (z.B. Zugriffskontrolle, Verschlüsselung)

Strukturierte, analytische und lösungsorientierte Arbeitsweise

Abgeschlossenes Studium, z.B. in Informatik, Data Science, Ingenieurwesen oder eine vergleichbare Qualifikation

Was wir Dir bieten

Wohlfühlarbeitsplatz

Für die Arbeit wirst Du von uns technisch bestens ausgestattet und kannst Dich vor Ort auf moderne Arbeitsplätze in großzügigen, hellen Büroräumen sowie auf kostenlose Getränke inkl. Kaffee und Softdrinks freuen. In den meisten Fachbereichen ist zudem mobiles Arbeiten an mehreren Tagen pro Woche möglich.

Verantwortung & Weiterbildung

Bei uns hast Du die Möglichkeit, vieles mitzugestalten, Dir eigene Ziele zu setzen und somit schnell Verantwortung zu übernehmen. Selbstverständlich bieten wir Dir dafür auch die nötigen Weiterbildungen an.

Wertschätzende Du-Kultur

Vom Praktikanten bis hin zum Vorstand – bei uns spricht sich jeder mit einem respektvollen „Du“ an.

Professionelles, persönliches Onboarding

Die ersten beiden Tage erhältst Du alle Infos und Schulungen, die Du für den Start in Deinen Fachbereich benötigst

Regelmäßige Events

Ob Oktoberfest an unserem Standort in Freiburg, Boule-Turnier auf unserer eigenen Boule-Bahn in Appenweier oder Weinsafari als Teamevent – wir lieben es, gemeinsam zu feiern, und lassen Events nicht zu kurz kommen.

Corporate Benefits

Freue Dich auf attraktive Vergünstigungen über unser Partnerprogramm, mit denen Shopping noch mehr Spaß macht.

Überzeugt? Dann freuen wir uns auf Deine Bewerbung!
Hast Du noch Fragen? Dann ruf uns einfach an unter der Nummer 07805 9182200.