KI-Entwickler LLM / RAG / Agenten - Python oder TypeScript (m/w/d)

Rockstardevelopers GmbH; Deutschland; Remote; EUR 90,000 - 130,000; Full time

Benefits offered by this job

Echte Produktivprojekte

Remote-first in der DACH-Region

Internes Upskilling

MacBook

Flache Hierarchien

Job summary

Rockstardevelopers GmbH sucht eine erfahrene KI-/Software-Engineer, die LLM-Anwendungen in Fachprozesse integriert. Schwerpunkt auf RAG, Tool-Calling, Multi-Agenten und Governance. Sie arbeiten remote-first für Kunden im DACH-Raum.

Zu Ihren Aufgaben gehören Integration, Evaluierung der Modellqualität, Kostenkontrolle sowie Betrieb von Containern, CI/CD und Monitoring. Deutschkenntnisse C1 erforderlich.

Qualifications

• Mindestens drei Jahre Softwareentwicklung in Python oder TypeScript nach Ausbildung oder Studium.
• Mindestens eine LLM-Anwendung, die bei einem Kunden oder Arbeitgeber produktiv lief (RAG, Tool-Calling, Agenten).
• Docker, CI/CD und Git aus dem Projektalltag.
• Deutsch mindestens C1 in Wort und Schrift.

Responsibilities

• Sprachmodelle in Fachanwendungen integrieren: RAG mit Retrieval und Reranking, Tool-Calling, MCP-Server, Multi-Agent-Abläufe.
• Evaluierung aufbauen: Antwortqualität messen, Halluzinationen eingrenzen, Kosten und Token-Verbrauch im Griff behalten.
• Modelle auswählen und wechselbar halten (Governance und Datenschutz beachten).
• Betrieb: Container, CI/CD, Monitoring, Alerting.
• Enge Abstimmung mit Fachbereich, Architektur und Betrieb des Kunden.

Skills

Python

TypeScript

LLM-Anwendungen

Docker

CI/CD

Git

Deutsch C1

Tools

Kubernetes

OpenShift

Helm

Kubeflow

MLflow

Model Serving

Azure Foundry

AWS Bedrock

Vertex AI

Reranker

Vektordatenbanken

Embeddings

Job description

Du baust KI-Anwendungen, die beim Kunden im Regelbetrieb laufen: Dialogsysteme, semantische Suche, RAG-Pipelines, Agenten mit Werkzeuganbindung. Kein Prototyp für die Schublade.

Wer wir sind

Rockstardevelopers, gegründet 2015 in Mannheim, Büros in Stuttgart und München. Aus hunderten Projekten für Enterprise- und Mittelstandskunden wissen wir, wie man Software baut, die im Ernstfall trägt. Seit einer Weile verschiebt sich unser Schwerpunkt Richtung KI: LLM-Anwendungen, RAG, Agenten-Systeme, die beim Kunden produktiv gehen.

Worum es geht

Unsere Kunden sind die Deutsche Bahn und IT-Dienstleister im öffentlichen Sektor, ein reguliertes Umfeld mit hohen Ansprüchen an Datenschutz, EU AI Act und Betriebssicherheit. Dort baust du KI-Lösungen in bestehende Fachanwendungen ein. Projektsprache ist Deutsch. Der Alltag läuft remote-first, Kundentermine meist in Frankfurt am Main. Unsere Kunden stellen diese Projekte fast nur mit Festangestellten besetzt. Deshalb suchen wir dich in Festanstellung.

Aufgaben

• Sprachmodelle in Fachanwendungen integrieren: RAG mit Retrieval und Reranking, Tool-Calling, MCP-Server, Multi-Agent-Abläufe
• Evaluierung aufbauen: Antwortqualität messen, Halluzinationen eingrenzen, Kosten und Token-Verbrauch im Griff behalten
• Modelle auswählen und wechselbar halten (Azure AI Foundry, AWS Bedrock, offene Modelle), Governance und Datenschutz mitdenken
• Betrieb: Container, CI/CD, Monitoring, Alerting
• Enge Abstimmung mit Fachbereich, Architektur und Betrieb des Kunden

Das musst du mitbringen

• Mindestens drei Jahre Softwareentwicklung in Python oder TypeScript, nach Ausbildung oder Studium
• Mindestens eine LLM-Anwendung, die bei einem Kunden oder Arbeitgeber produktiv lief (RAG, Tool-Calling, Agenten), mit deinem Anteil daran
• Docker, CI/CD und Git aus dem Projektalltag
• Deutsch mindestens C1 in Wort und Schrift

Das bringst du idealerweise mit

• Kubernetes oder OpenShift, Helm
• MLOps-Werkzeuge (MLflow, Kubeflow, Model Serving) und klassisches ML im Produktivbetrieb
• Vektordatenbanken, Embedding-Modelle, Reranker
• Azure AI Foundry, AWS Bedrock oder Vertex AI
• EU AI Act, ISO 27001, Barrierefreiheit
• Erfahrung bei Bahn, Behörden oder Sozialversicherung
• Prometheus und Grafana, ArgoCD, SAFe

Benefits

• Echte Produktivprojekte. KI, die beim Kunden in Betrieb geht. Kein Innovation-Lab, keine Folien.
• Remote-first in der DACH-Region. Gelegentlich vor Ort, ansonsten arbeitest du von dort, wo du gut arbeitest.
• Internes Upskilling. Wir investieren in deine KI-Skills.
• MacBook
• Flache Hierarchien. Die Gründer sind deine direkten Ansprechpartner.