AI Engineer – LLM & RAG (m/w/d)

ALGEBRA Engineering & Consulting GmbH; Stuttgart; Híbrido; EUR 70.000 - 110.000; Jornada completa

Ventajas ofrecidas por este puesto de trabajo

Flexible Arbeitszeiten

Hybrides Arbeiten (Büro in Stuttgart)

Individuelle Weiterbildung

Descripción de la vacante

ALGEBRA Engineering & Consulting GmbH sucht eine/n AI Engineer – LLM & RAG in Stuttgart. Sie entwickeln LLM- und RAG-Lösungen für Kunden, integrieren Dokumenten- und ERP-Systeme und kümmern sich um Datenschutz, Autorisierung und Nachvollziehbarkeit von Anwendungsfällen.

Sie arbeiten eng mit Kundenteams zusammen, um realistische, produktive Lösungen zu liefern und Modelle in Kundendatencentern oder deutschen Clouds zu betreiben. Bewerbungen mit kurzen Projektbeispielen sind willkommen.

Formación

• Mehrere Jahre Erfahrung in Softwareentwicklung mit Python.
• Praktische Erfahrung mit LLM-Anwendungen in Produktion.
• Kenntnisse von Vektor-Datenbanken (pgvector, Qdrant, Milvus) und Frameworks wie LangChain oder LlamaIndex.
• Erfahrung mit Docker, REST-APIs und CI/CD; ideal auch Kubernetes oder Azure.
• Gute Deutsch- und Englischkenntnisse.
• Sinn für Governance gemäß EU AI Act und GDPR.

Responsabilidades

• Konzeption und Entwicklung von RAG-Systemen: Dokumentenvorbereitung, Chunking, Embeddings, Hybrid-Search und Ranking.
• Entwicklung von KI-Agenten, die über Schnittstellen und MCP mit ERP/CRM/DMS arbeiten.
• Betrieb von Open-Source-Sprachmodellen im Kundendatencenter oder in deutschen Clouds.
• Entwicklung von Evaluierung und Monitoring: Qualität der Antworten, Halluzinationen erkennen, Kosten/Latenz beachten.
• Umsetzung von Autorisierungskonzepten bis Retrieval und Beachtung der EU AI Act und GDPR.
• Zusammenarbeit mit Fachbereichen vom Workshop bis zum produktiven Betrieb.

Conocimientos

Python

LLM-Anwendungen

Vektor-Datenbanken

LangChain

LlamaIndex

Docker

REST APIs

Kubernetes

Azure

Deutsch & Englisch (sehr gut)

Herramientas

pgvector

Qdrant

Milvus

LangChain

LlamaIndex

Docker

Kubernetes

Azure

Descripción del empleo

# AI Engineer – LLM & RAG (m/f/d)Careers13. October 20261 min. Reading timeYou want to build AI applications that are really used in the company, instead of demos that disappear after presentation? As an AI engineer (m/f/d), you develop LLM and RAG solutions for medium-sized companies at ALGEBRA in Stuttgart: from knowledge search to internal documents to AI agents who intervene in existing systems. This is so that data protection, authorizations and traceability are right from the start.### **YOU CAN ENTER THEM*** Conception and development of RAG systems: document preparation, chunking, embeddings, hybrid search and ranking.* Development of AI agents that work via interfaces and the Model Context Protocol (MCP) with ERP, CRM, file storage and databases.* Operation of open voice models in the customer’s data center or in German clouds if data is not allowed to leave the house.* Development of evaluation and monitoring: measuring response quality, detecting hallucinations, keeping costs and latency in mind.* Implementation of authorization concepts up to retrieval and consideration of the requirements of the EU AI Act and GDPR.* Direct cooperation with the specialist areas of our customers, from the first workshop to productive operation.### **THAT MAKES YOU FEEL*** Several years of experience in software development with Python, ideally also with Java, Kotlin or TypeScript.* Practical experience with LLM applications in production, not only with prompts in the chat window.* Knowledge of vector databases such as pgvector, Qdrant or Milvus and frameworks such as LangChain or LlamaIndex. But you also know when you better leave them out.* Experience with Docker, REST APIs and CI/CD, ideally also with Kubernetes or Azure.* An honest look at boundaries: You also tell a customer when a problem does not need AI.* Very good knowledge of German and English, because you speak directly with customers.### **THIS IS WHAT WE OFFER YOU*** Real projects with real data: You see how your solution arrives in the everyday life of the customer.* Flat hierarchies and short decision paths, you work directly with the people who build the solution.* Design room for architecture and tool selection, without specifications from a distant corporate headquarters.* Time and budget to try out new models and tools before they land with the customer.* Flexible working hours, hybrid working with office in Stuttgart and individual further education.**Sounds like you?** Then we look forward to your application to bewerbung(at)algebra-ec.de. A CV and a few sentences about an AI project that you are proud of are enough for us to start.