KI-Entwickler LLM / RAG / Agenten – Python oder TypeScript (m/w/d)

Rockstardevelopers GmbH; Berlin; Remote; EUR 70.000 - 110.000; Vollzeit

Benefits dieser Stelle

Remote-first in der DACH-Region

MacBook

Flache Hierarchien

Zusammenfassung

Rockstardevelopers sucht einen erfahrenen KI-Engineer, der KI-Anwendungen in bestehende Fachanwendungen integriert, Datenschutz- und Governance-Anforderungen berücksichtigt und produktive Lösungen vorantreibt.

Sie arbeiten remote-first, Kundentermine finden meist in Frankfurt am Main statt. In enger Abstimmung mit Fachbereichen, Architektur und Betrieb liefern Sie robuste RAG-, Tool-Calling- und Multi-Agent-Workflows.

Qualifikationen

• Mindestens drei Jahre Softwareentwicklung in Python oder TypeScript, nach Ausbildung oder Studium.
• Mindestens eine LLM-Anwendung, die bei einem Kunden oder Arbeitgeber produktiv lief (RAG, Tool-Calling, Agenten), mit deinem Anteil daran
• Docker, CI/CD und Git aus dem Projektalltag
• Deutsch mindestens C1 in Wort und Schrift

Aufgaben

• Sprachmodelle in Fachanwendungen integrieren: RAG mit Retrieval und Reranking, Tool-Calling, MCP-Server, Multi-Agent-Abläufe
• Evaluierung aufbauen: Antwortqualität messen, Halluzinationen eingrenzen, Kosten und Token-Verbrauch im Griff behalten
• Modelle auswählen und wechselbar halten (Azure AI Foundry, AWS Bedrock, offene Modelle), Governance und Datenschutz mitdenken
• Betrieb: Container, CI/CD, Monitoring, Alerting
• Enge Abstimmung mit Fachbereich, Architektur und Betrieb des Kunden

Kenntnisse

Python/TypeScript

LLM Deployments

Tools

Docker

CI/CD

Git

Kubernetes/OpenShift

Helm

MLflow

Kubeflow

Model Serving

Azure AI Foundry

AWS Bedrock

Vertex AI

Vector databases

Embedding models

Jobbeschreibung

Du baust KI-Anwendungen, die beim Kunden im Regelbetrieb laufen: Dialogsysteme, semantische Suche, RAG-Pipelines, Agenten mit Werkzeuganbindung. Kein Prototyp für die Schublade.

Wer wir sind

Rockstardevelopers, gegründet 2015 in Mannheim, Büros in Stuttgart und München. Aus hunderten Projekten für Enterprise- und Mittelstandskunden wissen wir, wie man Software baut, die im Ernstfall trägt. Seit einer Weile verschiebt sich unser Schwerpunkt Richtung KI: LLM-Anwendungen, RAG, Agenten-Systeme, die beim Kunden produktiv gehen.

Worum es geht

Unsere Kunden sind die Deutsche Bahn und IT-Dienstleister im öffentlichen Sektor, ein reguliertes Umfeld mit hohen Ansprüchen an Datenschutz, EU AI Act und Betriebssicherheit. Dort baust du KI-Lösungen in bestehende Fachanwendungen ein. Projektsprache ist Deutsch. Der Alltag läuft remote-first, Kundentermine meist in Frankfurt am Main.

Unsere Kunden stellen diese Projekte fast nur mit Festangestellten besetzt. Deshalb suchen wir dich in Festanstellung.

Aufgaben

• Sprachmodelle in Fachanwendungen integrieren: RAG mit Retrieval und Reranking, Tool-Calling, MCP-Server, Multi-Agent-Abläufe
• Evaluierung aufbauen: Antwortqualität messen, Halluzinationen eingrenzen, Kosten und Token-Verbrauch im Griff behalten
• Modelle auswählen und wechselbar halten (Azure AI Foundry, AWS Bedrock, offene Modelle), Governance und Datenschutz mitdenken
• Betrieb: Container, CI/CD, Monitoring, Alerting
• Enge Abstimmung mit Fachbereich, Architektur und Betrieb des Kunden

Das musst du mitbringen

Jeder Punkt muss im Lebenslauf nachweisbar sein.

• Mindestens drei Jahre Softwareentwicklung in Python oder TypeScript, nach Ausbildung oder Studium
• Mindestens eine LLM-Anwendung, die bei einem Kunden oder Arbeitgeber produktiv lief (RAG, Tool-Calling, Agenten), mit deinem Anteil daran
• Docker, CI/CD und Git aus dem Projektalltag
• Deutsch mindestens C1 in Wort und Schrift

Das bringst du idealerweise mit

Kein Muss, aber je mehr davon, desto besser:

• Kubernetes oder OpenShift, Helm
• MLOps-Werkzeuge (MLflow, Kubeflow, Model Serving) und klassisches ML im Produktivbetrieb
• Vektordatenbanken, Embedding-Modelle, Reranker
• Azure AI Foundry, AWS Bedrock oder Vertex AI
• EU AI Act, ISO 27001, Barrierefreiheit
• Erfahrung bei Bahn, Behörden oder Sozialversicherung
• Prometheus und Grafana, ArgoCD, SAFe

Benefits

• Echte Produktivprojekte. KI, die beim Kunden in Betrieb geht. Kein Innovation-Lab, keine Folien.
• Remote-first in der DACH-Region. Gelegentlich vor Ort, ansonsten arbeitest du von dort, wo du gut arbeitest.
• Internes Upskilling. Wir investieren in deine KI-Skills.
• MacBook
• Flache Hierarchien. Die Gründer sind deine direkten Ansprechpartner.