AI Engineer – Enterprise RAG & LLM Applications

Emos Software GmbH

Frankfurt

Hybrid

EUR 90,000 - 130,000

Full time

8 days ago

A complete application in a minute

Tailored resume and cover letter, ready to send.

Get past ATS filters

Job summary

EMOS Software GmbH sucht einen erfahrenen AI Engineer – Enterprise RAG & LLM Applications zur Entwicklung produktionsreifer RAG-Lösungen für vertrauliche Unternehmensdaten. Du arbeitest an hybriden Infrastrukturkonzepten, evaluierst Abfragen, Sicherheit und Kosten, und treibst klare Entscheidungen in Fachbereichen und Engineering voran.

Du bringst starkes Python-API-Design, Erfahrung mit PostgreSQL/pgvector/OpenSearch, Docker/CI/CD, sowie fundierte Kenntnisse in Testing, Debugging und Teamarbeit

Qualifications

  • Fundierte Python-Erfahrung, API-Design und asynchrone Verarbeitung
  • Praxis mit PostgreSQL/pgvector oder OpenSearch sowie Embeddings und Reranking
  • Verständnis von Prompt Injection, Mandantentrennung und datenschutzgerechter Verarbeitung
  • Erfahrung mit Docker, CI/CD, pytest und LLM-Evaluationsmethoden
  • Erfahrung mit strukturiertem Debugging, Versionsverwaltung und der Zusammenarbeit in interdisziplinären Teams.
  • Fähigkeit, technische Entscheidungen verständlich zu begründen und die Qualität anhand konkreter Kriterien zu überprüfen.

Responsibilities

  • Retrieval-Pipelines mit Python, FastAPI, LangChain oder LlamaIndex entwickeln; hybride Suche, Chunking und Reranking gezielt evaluieren
  • Dokumentenquellen mit Berechtigungskontext integrieren und Zugriffskontrollen bis auf Dokumentebene durchsetzen
  • Antwortqualität mit Golden Datasets, RAGAS bzw. DeepEval und fachlichen Reviews messen
  • LLM-Endpunkte observierbar betreiben: Latenz, Kosten, Prompt-Versionen, PII-Schutz und Fallbacks
  • Bestehende Lösungen analysieren, technische Risiken dokumentieren und Verbesserungen entlang konkreter Akzeptanzkriterien priorisieren.
  • Implementierungen mit geeigneten automatisierten Tests, reproduzierbaren Testdaten und Code-Reviews absichern.
  • Fehlerbilder aus Logs, Metriken und Laufzeitverhalten untersuchen; Ursachen und Gegenmaßnahmen nachvollziehbar festhalten.

Skills

Python API-Design
PostgreSQL/pgvector OpenSearch
Prompt Injection & Datenschutz
Docker CI/CD pytest
Debugging & Versionskontrolle
Technische Entscheidungen begründen

Job description

KARRIERE / AI ENGINEERING

AI Engineer – Enterprise RAG & LLM Applications

Produktionsreife RAG-Anwendungen für vertrauliche Unternehmensdaten entwickeln.

München · Berlin · Frankfurt · Stuttgart

Beschäftigungsform in Abstimmung

EMOS Software GmbH

DEINE AUFGABE

Woran du bei EMOS arbeitest.

Produktionsreife RAG-Anwendungen für vertrauliche Unternehmensdaten entwickeln. Im Mittelpunkt stehen belastbare Lösungen, nachvollziehbare technische Entscheidungen und die Zusammenarbeit mit Fachbereichen sowie Engineering-Teams.

  • Retrieval-Pipelines mit Python, FastAPI, LangChain oder LlamaIndex entwickeln; hybride Suche, Chunking und Reranking gezielt evaluieren
  • Dokumentenquellen mit Berechtigungskontext integrieren und Zugriffskontrollen bis auf Dokumentebene durchsetzen
  • Antwortqualität mit Golden Datasets, RAGAS bzw. DeepEval und fachlichen Reviews messen
  • LLM-Endpunkte observierbar betreiben: Latenz, Kosten, Prompt-Versionen, PII-Schutz und Fallbacks
  • Bestehende Lösungen analysieren, technische Risiken dokumentieren und Verbesserungen entlang konkreter Akzeptanzkriterien priorisieren.
  • Implementierungen mit geeigneten automatisierten Tests, reproduzierbaren Testdaten und Code-Reviews absichern.
  • Fehlerbilder aus Logs, Metriken und Laufzeitverhalten untersuchen; Ursachen und Gegenmaßnahmen nachvollziehbar festhalten.

DEIN PROFIL

Was fachlich gut passt.

Langjährige Erfahrung ist willkommen. Entscheidend sind belastbare technische Grundlagen, Lernbereitschaft und ein professioneller Umgang mit anspruchsvollen Kundensystemen.

  • Fundierte Python-Erfahrung, API-Design und asynchrone Verarbeitung
  • Praxis mit PostgreSQL/pgvector oder OpenSearch sowie Embeddings und Reranking
  • Verständnis von Prompt Injection, Mandantentrennung und datenschutzgerechter Verarbeitung
  • Erfahrung mit Docker, CI/CD, pytest und LLM-Evaluationsmethoden
  • Erfahrung mit strukturiertem Debugging, Versionsverwaltung und der Zusammenarbeit in interdisziplinären Teams.
  • Fähigkeit, technische Entscheidungen verständlich zu begründen und die Qualität anhand konkreter Kriterien zu überprüfen.

TECHNISCHES UMFELD

Python · FastAPI · RAG · pgvector · OpenSearch · pytest · RAGAS

ZUSAMMENARBEIT & QUALITÄT

Wie du Wirkung erzielst.

In dieser Rolle geht es nicht nur um einzelne Technologien. Du arbeitest an nachvollziehbaren Ergebnissen: Anforderungen klären, Lösungen technisch sauber umsetzen, Risiken früh erkennen und die Übergabe an Betrieb oder andere Teams absichern.

Für die Position AI Engineer – Enterprise RAG & LLM Applications sind insbesondere dokumentierte Schnittstellen, transparente Reviews, automatisierte Qualitätssicherung und ein bewusster Umgang mit produktiven Systemen relevant. Das konkrete Projektumfeld wird im Gespräch erläutert.

RAHMENBEDINGUNGEN

Was die aktuelle EMOS-Ausschreibung vorsieht.

München · Berlin · Frankfurt · Stuttgart – ausgeschriebener Standort

Noch abzustimmen – mit gleitender Arbeitszeit

Noch abzustimmen – Beschäftigungsform

Noch abzustimmen – beim Kunden, Inhouse bzw. Remote

Gehaltsmodell: fair und nach Vereinbarung. Konkreter Projekteinsatz und weitere Rahmenbedingungen werden im Bewerbungsprozess abgestimmt.

Get your free, confidential resume review.

or drag and drop your file here.

Similar jobs

Similar jobs worth comparing

Agentic AI Engineer – Workflow Automation
Agentic AI Engineer – Workflow Automation

Emos Software GmbH • München, Berlin, Frankfurt, Stuttgart

Hybrid
EUR 80,000 - 120,000
AI Security Engineer – LLM & Agent Security
AI Security Engineer – LLM & Agent Security

Emos Software GmbH • München, Berlin, Frankfurt, Stuttgart

Remote
EUR 90,000 - 120,000
Application Security Engineer – SAST, SCA & API Security
Application Security Engineer – SAST, SCA & API Security

Emos Software GmbH • München, Berlin, Frankfurt, Stuttgart

Hybrid
EUR 90,000 - 120,000
LLMOps Engineer – Model Serving & Evaluation
LLMOps Engineer – Model Serving & Evaluation

Emos Software GmbH • München, Berlin, Frankfurt, Stuttgart

Remote
EUR 95,000 - 140,000
AI-assisted Test Engineer – Playwright & Quality Gates
AI-assisted Test Engineer – Playwright & Quality Gates

Emos Software GmbH • München, Berlin, Frankfurt, Stuttgart

Hybrid
EUR 65,000 - 90,000
SOC Detection Engineer – SIEM & Threat Hunting
SOC Detection Engineer – SIEM & Threat Hunting

Emos Software GmbH • München, Berlin, Frankfurt, Stuttgart

Remote
EUR 70,000 - 90,000
Network Security Engineer – Firewall & SASE
Network Security Engineer – Firewall & SASE

Emos Software GmbH • München, Berlin, Frankfurt, Stuttgart

Remote
EUR 70,000 - 110,000
Frontend Engineer – Design Systems & Accessibility
Frontend Engineer – Design Systems & Accessibility

Emos Software GmbH • München, Berlin, Frankfurt, Stuttgart

Hybrid
EUR 65,000 - 95,000
UX/UI Engineer – Enterprise Workflows
UX/UI Engineer – Enterprise Workflows

Emos Software GmbH • München, Berlin, Frankfurt, Stuttgart

Remote
EUR 68,000 - 90,000
Test Automation Architect – API, Contract & Integration Testing
Test Automation Architect – API, Contract & Integration Testing

Emos Software GmbH • Frankfurt

Hybrid
EUR 90,000 - 125,000