(Senior) Software Engineer - LLM & AI Platform (m/w/d) - Remote

KI Group

Deutschland

Remote

EUR 55,000 - 85,000

Full time

14 days+

Get a reply from this employer

Your resume and cover letter, tailored to exactly what they’re hiring for.

Get past ATS filters

Benefits offered by this job

Jahresbonus
JobRad
JobTicket
JobAuto
Betriebliche Altersvorsorge
BKV

Job summary

KI Group sucht remote einen Senior Software Engineer für LLM & AI Platform, spezialisiert auf RAG, LangChain/LlamaIndex und API-Integration. Du arbeitest an der gemeinsamen LLM-Plattform, betreibst PoCs, implementierst Prototypen und trägst zur Produktentwicklung bei.

Du gestaltest Backend- und Frontend-Teile (Node.js, Python, React, TypeScript), arbeitest eng mit einem internationalen Team zusammen und profitierst von flexiblen Arbeitszeiten sowie der Möglichkeit zum mobilen Arbeiten.

Qualifications

  • Abschluss in Informatik, Wirtschaftsinformatik, Data Science oder verwandter Studiengang erwünscht.
  • Erfahrung mit RAG-Pipelines in Produktion, Vector DB, Retrieval, Chunking, Evaluation/Grounding.
  • Kenntnisse in LangChain/LlamaIndex oder äquivalenter Orchestrierung für LLM-Apps sind erforderlich.

Responsibilities

  • Aufbau der LLM-Plattform-Schicht: Retrieval-Backend, Embedding-Pipeline, API-Design
  • Integration von LLM-APIs (OpenAI, Anthropic, Mistral) in interne und Kundensysteme
  • Entwicklung von KI-Features wie Conversational Analyst, semantische Suche, intelligenter Alert-Feed
  • Implementierung von Agenten-Architekturen und MCP-Schnittstellen für Enterprise-Anbindung
  • Mitarbeit an Prototypen und PoCs für neue KI-Anwendungsfälle

Skills

RAG-Pipelines Production
LangChain / LlamaIndex
Prompt-/Context-Engineering
Node.js / Python
React / TypeScript

Education

Abschluss in Informatik / Wirtschaftsinformatik / Data Science oder verwandte

Tools

LangChain
LlamaIndex
OpenAI / Anthropic / Mistral
Node.js
Python
React
TypeScript

Job description

Remote (Senior) Software Engineer - LLM & AI Platform (m/w/d) - KI Group sucht Machine-Learning Spezialisten!

Gehaltsspanne 55000 - 85000 EUR pro Jahr.

Verwendete Technologien:
  • API
  • Backend
  • Frontend
  • LLM
  • MCP
  • Python
  • RAG
  • React
  • TypeScript
  • NodeJS
Anforderungen und Ihr Profil:
  • Absolventen der Informatik, Wirtschaftsinformatik, Data Science oder eines verwandten Studiengangs
  • Erfahrung mit:
  • RAG-Pipelines in Produktion - Vector DB, Retrieval, Chunking, Evaluation/Grounding
  • LLM-Frameworks - LangChain / LlamaIndex (o. ä.) für Orchestrierung, Chains/Agents, Tool-Use
  • LLM-Application-Engineering - Prompt-/Context-Engineering, Function-Calling, Agenten-Architekturen
  • Backend - Node/Python (o. ä.), saubere Services, Async, API-Design, Datenmodellierung
  • Frontend - React / TypeScript, baut nutzbare Oberflächen für die KI-Features selbst
  • Daten-Pipelines - Ingestion, Normalisierung, Embeddings über strukturierte und halb-strukturierte Quellen
  • MCP (Model Context Protocol)
  • Leidenschaftlicher Umgang mit KI-nativen Schnittstellen.
Ihre Verantwortlichkeiten:
  • Aufbau der LLM-Plattform-Schicht: Retrieval-Backend, Embedding-Pipeline, API-Design
  • Integration von LLM-APIs (OpenAI, Anthropic, Mistral u. a.) in interne und Kundensysteme
  • Entwicklung von KI-Features: Conversational Analyst, semantische Suche, intelligenter Alert-Feed
  • Implementierung von Agenten-Architekturen und MCP-Schnittstellen für Enterprise-Anbindung
  • Mitarbeit bei der Entwicklung von Prototypen und Proof-of-Concepts für neue KI-Anwendungsfälle.
Kategorie:

Machine-Learning

Adresse:

Saalburgstraße 157 , Frankfurt, Germany.

Gehalt:

55000 - 85000 EUR pro Jahr.

KI Group - Über uns:

Der Kontext: Die KI-PIE Group ist ein etabliertes B2B-Medien- und Datenunternehmen für die internationale Kunststoffindustrie und Petrochemie. Wir bauen aktuell pricenxt.com auf - unsere neue SaaS-Plattform für Pricing und Market Intelligence und ein zentraler Wachstumshebel der nächsten Jahre insbesondere im europäischen Ausland.

In der Rolle als LLM Application Engineer / Senior Software Engineer übernimmst Du eine zentrale Aufgabe in unserem Dev-Team. Du baust die gemeinsame LLM-Plattform eigenverantwortlich auf - vom PoC bis zur Produktion - und verantwortest zwei Tracks: interne Tools und Kundenprodukte. Dein Schwerpunkt liegt auf dem Anwendungsbau über Foundation Models: RAG, Agents, LangChain/LlamaIndex, Orchestrierung, Prompt-Engineering und Produktintegration.

Warum wir?
  • Festanstellung mit attraktivem Gehalt und Jahresbonus
  • Mitarbeit in einem kleinen, engagierten und internationalen Team
  • Eigenverantwortliches Arbeiten mit Raum für Ideen und Weiterentwicklung
  • Gestaltungspotenzial in einem digital wachsenden Umfeld
  • Flexible Arbeitszeiten und Möglichkeit zum mobilen Arbeiten
  • Flache Hierarchien, kurze Entscheidungswege
  • Regelmäßige Teamevents, mindestens 1x pro Quartal
  • JobRad, JobAuto & JobTicket
  • Betriebliche Altersvorsorge (BAV) und betriebliche Krankenzusatzversicherung (BKV)
  • Corporate Benefits bei Technik, Multimedia, Reisen, Events und Co zuletzt aktualisiert 32 Woche von 2026
Get your free, confidential resume review.

or drag and drop your file here.

Similar jobs

Similar jobs worth comparing

LLM Engineer bei der JUST ADD AI (all genders)
LLM Engineer bei der JUST ADD AI (all genders)

JUST ADD AI GmbH • Bremen

On-site
Confidential
Firmen-Fitness
BusinessBike
Kostenübernahme für E-Learning-Kurse
+2
LLM Engineer bei der JUST ADD AI (all genders)
LLM Engineer bei der JUST ADD AI (all genders)

Justadd • Bremen

On-site
EUR 60,000 - 80,000
Firmen-Fitness
Regelmäßige Teamevents
Kostenübernahme für E-Learning-Kurse
+1
AI Software Engineer (m/w/d)
AI Software Engineer (m/w/d)

Empro • Nürnberg

Hybrid
EUR 60,000 - 90,000
Laptop nach Wahl
30 Tage Urlaub
Hybrides Arbeiten
AI Software Engineer (m/w/d)
AI Software Engineer (m/w/d)

Empro GmbH • Bad Bramstedt

Hybrid
EUR 60,000 - 90,000
Gehalt 60.000–90.000 € brutto/Jahr
30 Tage Urlaub
Hybrides Arbeiten
+2
Senior KI-Entwickler m/w/d – intern
Senior KI-Entwickler m/w/d – intern

SIPAS IT-Consulting Schwandt - Jürgen Schwandt • Stuttgart

Hybrid
EUR 85,000 - 130,000
Weiterbildungsbudget
Remote-Arbeit/Vor-Ort
Moderne Infrastruktur
+1
AI / Machine Learning Engineer – LLM, RAG & NLP (m/w/d)
AI / Machine Learning Engineer – LLM, RAG & NLP (m/w/d)

engenious GmbH • Brühl

Hybrid
EUR 90,000 - 120,000
Hybrid- und Remote-Optionen
AI Platform Engineer (m/w/d)
AI Platform Engineer (m/w/d)

Exclusive Associates UK Limited • Essen

Hybrid
EUR 70,000 - 95,000
Flexible Arbeitszeiten
Eigene Hardware nutzen
Hybrides Arbeitsmodell
+4
Softwareentwickler (m/w/d)
Softwareentwickler (m/w/d)

ELAC Sonar GmbH • Kiel

Hybrid
EUR 75,000 - 120,000
Flexible Arbeitszeiten
Möglichkeit zum mobilen Arbeiten (max.
Firmenfitness (HANSEFIT)
+2
AI / Machine Learning Engineer – LLM, RAG & NLP (m/w/d)
AI / Machine Learning Engineer – LLM, RAG & NLP (m/w/d)

Remotely • Brühl

Hybrid
EUR 55,000 - 85,000
Flexible Arbeitsbedingungen
Weiterbildungs- und Entwicklungsmöglic
AI Platform Specialist (m/w/d)
AI Platform Specialist (m/w/d)

J38650 • Stuttgart

On-site
EUR 60,000 - 90,000
Flexible Arbeitszeiten
Mobile-Work
Weiterbildung
+6