KI-Entwickler LLM / RAG / Agenten – Python oder TypeScript (m/w/d)

Rockstardevelopers GmbH; United States; Remote; USD 120,000 - 170,000; Full time

Benefits offered by this job

Produktive KI-Projekte

Remote-first in DACH?

Interne KI-Skills-Weiterbildung

MacBook

Flache Hierarchien

Job summary

Rockstardevelopers GmbH sucht einen erfahrenen KI-Softwareentwickler, der KI-Anwendungen in Kundenumgebungen produktiv einsetzt. Du integrierst Sprachmodelle in Fachanwendungen, betreibst RAG-Pipelines und Multi-Agenten mit Tool-Calls.

Du arbeitest remote-first, Termine finden meist in Frankfurt am Main statt; enge Abstimmung mit Fachbereich, Architektur und Betrieb des Kunden ist Teil des Jobs. Deutschkenntnisse auf C1-Niveau sind erforderlich.

Qualifications

• Drei Jahre Softwareentwicklung in Python oder TypeScript
• Mindestens eine produktiv genutzte LLM-Anwendung (RAG/Tool-Calling/Agenten)
• Docker, CI/CD und Git im Projektalltag

Responsibilities

• Sprachmodelle in Fachanwendungen integrieren: RAG mit Retrieval und Reranking, Tool-Calling, MCP-Server, Multi-Agent-Abläufe
• Evaluierung aufbau: Antwortqualität messen, Halluzinationen eingrenzen, Kosten und Token-Verbrauch im Griff behalten
• Modelle auswählen und wechselbar halten (Azure AI Foundry, AWS Bedrock, Vertex AI), Governance und Datenschutz beachten
• Betrieb: Container, CI/CD, Monitoring, Alerting
• Enge Abstimmung mit Fachbereich, Architektur und Betrieb des Kunden

Skills

Python/TypeScript-Entwicklung

LLM-Anwendungen prod.

Deutschkenntnisse C1

Tools

Docker

CI/CD

Git

Job description

Du baust KI-Anwendungen, die beim Kunden im Regelbetrieb laufen: Dialogsysteme, semantische Suche, RAG-Pipelines, Agenten mit Werkzeuganbindung. Kein Prototyp für die Schublade.

Wer wir sind

Rockstardevelopers, gegründet 2015 in Mannheim, Büros in Stuttgart und München. Aus hunderten Projekten für Enterprise- und Mittelstandskunden wissen wir, wie man Software baut, die im Ernstfall trägt. Seit einer Weile verschiebt sich unser Schwerpunkt Richtung KI: LLM-Anwendungen, RAG, Agenten-Systeme, die beim Kunden produktiv gehen.

Worum es geht

Unsere Kunden sind die Deutsche Bahn und IT-Dienstleister im öffentlichen Sektor, ein reguliertes Umfeld mit hohen Ansprüchen an Datenschutz, EU AI Act und Betriebssicherheit. Dort baust du KI-Lösungen in bestehende Fachanwendungen ein. Projektsprache ist Deutsch. Der Alltag läuft remote-first, Kundentermine meist in Frankfurt am Main.

Unsere Kunden stellen diese Projekte fast nur mit Festangestellten besetzt. Deshalb suchen wir dich in Festanstellung.

Aufgaben

• Sprachmodelle in Fachanwendungen integrieren: RAG mit Retrieval und Reranking, Tool-Calling, MCP-Server, Multi-Agent-Abläufe
• Evaluierung aufbauen: Antwortqualität messen, Halluzinationen eingrenzen, Kosten und Token-Verbrauch im Griff behalten
• Modelle auswählen und wechselbar halten (Azure AI Foundry, AWS Bedrock, offene Modelle), Governance und Datenschutz mitdenken
• Betrieb: Container, CI/CD, Monitoring, Alerting
• Enge Abstimmung mit Fachbereich, Architektur und Betrieb des Kunden

Das musst du mitbringen

Jeder Punkt muss im Lebenslauf nachweisbar sein.

• Mindestens drei Jahre Softwareentwicklung in Python oder TypeScript, nach Ausbildung oder Studium
• Mindestens eine LLM-Anwendung, die bei einem Kunden oder Arbeitgeber produktiv lief (RAG, Tool-Calling, Agenten), mit deinem Anteil daran
• Docker, CI/CD und Git aus dem Projektalltag
• Deutsch mindestens C1 in Wort und Schrift

Das bringst du idealerweise mit

Kein Muss, aber je mehr davon, desto besser:

• Kubernetes oder OpenShift, Helm
• MLOps-Werkzeuge (MLflow, Kubeflow, Model Serving) und klassisches ML im Produktivbetrieb
• Vektordatenbanken, Embedding-Modelle, Reranker
• Azure AI Foundry, AWS Bedrock oder Vertex AI
• EU AI Act, ISO 27001, Barrierefreiheit
• Erfahrung bei Bahn, Behörden oder Sozialversicherung
• Prometheus und Grafana, ArgoCD, SAFe

Benefits

• Echte Produktivprojekte. KI, die beim Kunden in Betrieb geht. Kein Innovation-Lab, keine Folien.
• Remote-first in der DACH-Region. Gelegentlich vor Ort, ansonsten arbeitest du von dort, wo du gut arbeitest.
• Internes Upskilling. Wir investieren in deine KI-Skills.
• MacBook
• Flache Hierarchien. Die Gründer sind deine direkten Ansprechpartner.