Freelancer RAG- und Prompt-Engineering (m/w/d)

vona KI- und Softwareagentur Sylvia Michalk

Deutschland

Remote

EUR 96,000 - 152,000

Full time

14 days+

A complete application in a minute

Tailored resume and cover letter, ready to send.

Get past ATS filters

Benefits offered by this job

Flexible Arbeitszeiten
Remote-Arbeit

Job summary

vona KI- und Softwareagentur Sylvia Michalk sucht erfahrene Freelancer für die Entwicklung von Retrieval-Augmented Generation-Lösungen. Das Team arbeitet remote aus Deutschland, Österreich oder der Schweiz und fokussiert sich auf KI-Integration, Web-/App-Entwicklung, Design sowie SEO/GEO.

Zu den Aufgaben gehören die Konzeption von RAG-Pipelines, Implementierung mit LangChain/LlamaIndex, Prompt-Engineering und Testing.

Qualifications

  • Mehrjährige Erfahrung in der Softwareentwicklung und im Aufbau von Retrieval-Augmented Gen...
  • Sichere Kommunikation Deutsch oder Englisch, schriftlich wie mündlich.

Responsibilities

  • Konzipierst RAG-Pipelines für Kundenprojekte; Datenquellen anbinden, Dokumente aufbereiten.
  • Setzt Pipelines mit LangChain/LlamaIndex um, wählt passende Such- und Embedding-Technologien.
  • Schreibst/System- und User-Prompts, sorgst für belegbare Antworten und Wissenslücken-Management.
  • Baust Testsätze und misst Trefferqualität, bevor live gegangen wird.

Skills

RAG-Expertise
Python
Freiberuflich

Tools

LangChain
LlamaIndex
Vektordatenbank

Job description

Ein Sprachmodell ist nur so gut wie das Wissen, das es im richtigen Moment bekommt. Ob ein KI-Assistent eine Lieferzeit korrekt nennt oder sich etwas ausdenkt, entscheidet sich beim Chunking, bei der Suche und im Prompt. Genau hier suchen wir Verstärkung: erfahrene Freelancerinnen und Freelancer, die Retrieval-Augmented Generation nicht nur aus Tutorials kennen, sondern schon produktiv betrieben haben. Die Zusammenarbeit ist 100 % remote, aus Deutschland, Österreich oder der Schweiz, ab 11. November 2026.

vona ist eine KI- und Softwareagentur aus Leipzig, remote-first und mit vier Disziplinen in einem Team: KI-Integration, Web- und App-Entwicklung, Design sowie SEO und GEO. Wir beraten ehrlich, auch wenn die Antwort einmal „dafür braucht ihr keine KI“ lautet, und legen vor dem Start fest, woran ein Projekt gemessen wird. Unsere Kunden reichen vom Handwerksbetrieb über den Mittelstand bis zu Startups und etablierten Marken im deutschsprachigen Raum.

Ein Beispiel für die Art von Projekten: Für einen Online-Händler mit über 8.000 Produkten haben wir einen KI-Kundenberater auf RAG-Basis gebaut. Er greift über APIs auf Produktkatalog, FAQ-Datenbank und Bestellhistorie zu, eskaliert schwierige Fälle per E-Mail an das Team und bearbeitet laut Kunde 68 % der Anfragen selbstständig. Die Erstantwortzeit sank von 18 Stunden auf unter 90 Sekunden. Weitere Einsatzfelder findest du unter KI-Integration .

Deine Aufgaben
  • Du konzipierst RAG-Pipelines für Kundenprojekte: Datenquellen anbinden, Dokumente aufbereiten und in sinnvolle Abschnitte teilen, Embeddings und Suche auswählen.
  • Du setzt die Pipelines mit LangChain, LangGraph oder LlamaIndex um, je nachdem, was zum Projekt passt.
  • Du schreibst und versionierst System- und User-Prompts und sorgst dafür, dass Antworten belegbar bleiben und das Modell Wissenslücken offen zugibt.
  • Du baust Testsätze mit typischen Kundenfragen und misst Trefferqualität und Antwortgüte, bevor etwas live geht und nach jeder Änderung.
  • Du wägst gemeinsam mit uns ab, ob ein Cloud-Modell wie Claude, GPT oder Mistral passt oder ein lokales Modell über Ollama sinnvoller ist.
  • Mehrjährige Erfahrung in der Softwareentwicklung, bevorzugt mit Python, und mindestens ein RAG-System, das du in den Betrieb gebracht hast.
  • Sicherer Umgang mit LangChain oder LlamaIndex sowie mit mindestens einer Vektordatenbank oder Vektorsuche.
  • Ein methodisches Verständnis dafür, wie man die Qualität von Antworten misst, statt sich auf Bauchgefühl zu verlassen.
  • Die Fähigkeit, technische Abwägungen so zu erklären, dass auch Kunden ohne Technikhintergrund sie nachvollziehen können.
  • Sichere Kommunikation auf Deutsch oder Englisch.
  • Eine eigene Selbstständigkeit oder einen Freiberufler-Status mit Sitz in Deutschland, Österreich oder der Schweiz.

Schön, aber kein Muss: Erfahrung mit LangGraph oder Agenten-Frameworks wie CrewAI, mit Hugging Face oder mit dem Betrieb lokaler Modelle.

Was wir bieten
  • Echte Kundenprojekte mit klar definiertem Ziel, keine Machbarkeitsstudien, die in der Schublade landen.
  • Eine feste Ansprechperson auf unserer Seite und regelmäßige Abstimmungen im vereinbarten Rhythmus.
  • Zugang zu den KI-Werkzeugen, die das Projekt braucht, etwa Claude, Claude Code, ChatGPT oder OpenRouter.
  • Freie Zeiteinteilung nach Auftragslage, Arbeit vollständig von deinem eigenen Arbeitsplatz aus.
  • Bei erfolgreicher Zusammenarbeit die Möglichkeit auf Anschlussprojekte – eine Perspektive, keine Garantie.
Get your free, confidential resume review.

or drag and drop your file here.

Similar jobs

Similar jobs worth comparing

Full-Stack AI Developer / Engineer (m/w/d)
Full-Stack AI Developer / Engineer (m/w/d)

salesHAX Consulting GmbH • Hamburg

Remote
EUR 70,000 - 90,000
100% Remote
Cutting-Edge Tech
Verantwortung & Impact
+2
KI-Berater (m/w/d)
KI-Berater (m/w/d)

Alpha Digital • Rosenheim

Hybrid
EUR 60,000 - 90,000
Hybrides Arbeiten
Fortbildungsbudget
Kurze Entscheidungswege
+1
Foward Deployed AI Engineer (m/d/w)
Foward Deployed AI Engineer (m/d/w)

Neurawork GmbH & Co. KG • Ampfing

Remote
EUR 70,000 - 110,000
Mandatsverantwortung ab dem ersten Pro
Austausch mit KI-Elite
Moderner Tech-Stack
+4
Senior AI Solutions Engineer (m/w/d)- Beratung und Umsetzung im Mittelstand
Senior AI Solutions Engineer (m/w/d)- Beratung und Umsetzung im Mittelstand

NEURAWORK • Germany

Remote
EUR 90,000 - 130,000
Engineering Hybrid · Karlsruhe / Zürich · Zu Beginn hybrides Arbeiten, Präsenztage nach Absprache AI Engineer (m/w/d) Plattform und AI Gateway für den produktiven Betrieb →
Engineering Hybrid · Karlsruhe / Zürich · Zu Beginn hybrides Arbeiten, Präsenztage nach Absprache AI Engineer (m/w/d) Plattform und AI Gateway für den produktiven Betrieb →

Rinascai Holding AG • Karlsruhe

Hybrid
EUR 90,000 - 130,000
Hybrides Arbeiten
30 Tage Urlaub
40-Stunden-Woche
+4
Machine Learning Engineer (m/w/d)
Machine Learning Engineer (m/w/d)

IndiaSellers • Stuttgart

Hybrid
EUR 80,000 - 120,000
Remote-first in DACH-Region
MacBook
Moderne KI-Technologie
+3
Senior Fullstack Entwickler Java / Angular (m/w/d)
Senior Fullstack Entwickler Java / Angular (m/w/d)

RockstarDevelopers GmbH • Stuttgart

Hybrid
EUR 90,000 - 120,000
Homeoffice/Homeoffice/Mischbetrieb
MacBook zur Verfügung
Verschiedene Kunden/Projekte
+1
Lead AI Engineer (w/m/d) IT-Consulting
Lead AI Engineer (w/m/d) IT-Consulting

MaibornWolff • Leipzig

Hybrid
EUR 60,000 - 80,000
Flexible Arbeitszeiten
Home Office & Office Optionen
Weiterbildungsmöglichkeiten
+3
Lead AI Engineer (w/m/d) IT-Consulting
Lead AI Engineer (w/m/d) IT-Consulting

MaibornWolff • Rheinland-Pfalz

Hybrid
EUR 80,000 - 100,000
Home Office & Office
Weiterbildung
Mitarbeiterevents
+2
Lead AI Engineer (w/m/d) IT-Consulting
Lead AI Engineer (w/m/d) IT-Consulting

MaibornWolff • Darmstadt

Hybrid
EUR 65,000 - 85,000
Home Office & Office
Flexible Arbeitszeiten
Fortbildungsbudget
+3