KI-Engineer – LLM & RAG (m/w/d)

ALGEBRA Engineering & Consulting GmbH; Stuttgart; Hybrid; EUR 70,000 - 110,000; Full time

Benefits offered by this job

Hybrides Arbeiten

Fortbildungsmöglichkeiten

Büro in Stuttgart

Job summary

ALGEBRA Engineering & Consulting GmbH in Stuttgart sucht einen KI-Engineer (m/w/d), der LLM- und RAG-Lösungen für den Mittelstand entwickelt. Du arbeitest an Dokumentenaufbereitung, Embeddings, Hybrid-Suche und KI-Agenten, die in ERP/CRM-Systeme integrieren.

Du trägst Datenschutz, Berechtigungen und Nachvollziehbarkeit, betreibst Modelle im Rechenzentrum oder in deutschen Clouds, und arbeitest eng mit Fachbereichen zusammen.

Qualifications

• Mehrjährige Erfahrung in der Softwareentwicklung mit Python.
• Praxis in LLM-Anwendungen in Produktion.
• Kenntnisse in Vektordatenbanken und relevanten Frameworks.
• Sehr gute Deutsch- und gute Englischkenntnisse.
• Bereitschaft zu hybrider Arbeit in Stuttgart.

Responsibilities

• Konzeption und Entwicklung von RAG-Systemen und Dokumentenaufbereitung.
• Entwicklung von KI-Agenten, die mit ERP/CRM-Systemen arbeiten.
• Betrieb offener Sprachmodelle in deutschen Clouds bzw. am Kundensstandort.
• Evaluierung, Monitoring, Kosten- und Latenzüberwachung.
• Berücksichtigung EU AI Act und DSGVO in Berechtigungskonzepten.
• Zusammenarbeit mit Fachabteilungen vom Workshop bis zum Betrieb.

Skills

Python

Java

Kotlin

TypeScript

LLM-Anwendungen

Vektordatenbanken

LangChain

LlamaIndex

Docker

REST-APIs

CI/CD

Kubernetes

Azure

Deutschkenntnisse

Englischkenntnisse

Tools

pgvector

Qdrant

Milvus

LangChain

LlamaIndex

Docker

Kubernetes

Azure

Job description

# KI-Engineer – LLM & RAG (m/w/d)Karriere13. Oktober 20261 Min. LesezeitDu willst KI-Anwendungen bauen, die im Unternehmen wirklich genutzt werden, statt Demos, die nach der Präsentation verschwinden? Als KI-Engineer (m/w/d) entwickelst du bei ALGEBRA in Stuttgart LLM- und RAG-Lösungen für den Mittelstand: von der Wissenssuche über interne Dokumente bis zu KI-Agenten, die in bestehende Systeme eingreifen. Und zwar so, dass Datenschutz, Berechtigungen und Nachvollziehbarkeit von Anfang an stimmen.### **DAFÜR KANNST DU DICH BEGEISTERN*** Konzeption und Entwicklung von RAG-Systemen: Dokumentenaufbereitung, Chunking, Embeddings, Hybrid-Suche und Reranking.* Entwicklung von KI-Agenten, die über Schnittstellen und das Model Context Protocol (MCP) mit ERP, CRM, Dateiablagen und Datenbanken arbeiten.* Betrieb offener Sprachmodelle im Rechenzentrum des Kunden oder in deutschen Clouds, wenn Daten das Haus nicht verlassen dürfen.* Aufbau von Evaluierung und Monitoring: Antwortqualität messen, Halluzinationen erkennen, Kosten und Latenz im Blick behalten.* Umsetzung von Berechtigungskonzepten bis ins Retrieval und Berücksichtigung der Anforderungen aus EU AI Act und DSGVO.* Direkte Zusammenarbeit mit den Fachbereichen unserer Kunden, vom ersten Workshop bis zum produktiven Betrieb.### **DAS MACHT DICH AUS*** Mehrjährige Erfahrung in der Softwareentwicklung mit Python, idealerweise auch mit Java, Kotlin oder TypeScript.* Praktische Erfahrung mit LLM-Anwendungen in Produktion, nicht nur mit Prompts im Chatfenster.* Kenntnisse in Vektordatenbanken wie pgvector, Qdrant oder Milvus und in Frameworks wie LangChain oder LlamaIndex. Du weißt aber auch, wann man sie besser weglässt.* Erfahrung mit Docker, REST-APIs und CI/CD, idealerweise auch mit Kubernetes oder Azure.* Ein ehrlicher Blick auf Grenzen: Du sagst einem Kunden auch, wenn ein Problem keine KI braucht.* Sehr gute Deutsch- und gute Englischkenntnisse, denn du sprichst direkt mit Kunden.### **DAS BIETEN WIR DIR*** Echte Projekte mit echten Daten: Du siehst, wie deine Lösung im Alltag des Kunden ankommt.* Flache Hierarchien und kurze Entscheidungswege, du arbeitest direkt mit den Menschen, die die Lösung bauen.* Gestaltungsspielraum bei Architektur und Werkzeugwahl, ohne Vorgaben aus einer fernen Konzernzentrale.* Zeit und Budget, um neue Modelle und Werkzeuge auszuprobieren, bevor sie beim Kunden landen.* Flexible Arbeitszeiten, hybrides Arbeiten mit Büro in Stuttgart und individuelle Weiterbildung.**Klingt nach dir?** Dann freuen wir uns auf deine Bewerbung an bewerbung(at)algebra-ec.de. Ein Lebenslauf und ein paar Sätze zu einem KI-Projekt, auf das du stolz bist, reichen uns für den Anfang.Woran du bei uns konkret arbeitest, zeigt unsere Seite zu KI-Beratung und RAG-Systemen. Alle offenen Stellen findest du auf der Karriereseite.