Software Engineer – KI & Retrieval (RAG/Azure) (m/w/d)

Jurafuchs; Berlin; Hybrid; EUR 60,000 - 80,000; Full time

Benefits offered by this job

Wettbewerbsfähiges Gehalt

Flexibles Arbeiten

Moderne technologische Ausstattung

Job summary

Ein innovatives EdTech-Startup sucht einen Backend-Entwickler für die Entwicklung einer legalen AI-Plattform. Zu den Aufgaben gehört das Design von Pipelines auf Azure AI Search sowie die Integration von Azure OpenAI-Technologien. Der Kandidat sollte fundierte Kenntnisse in RAG, Azure und Backend-Entwicklung in TypeScript oder Python mitbringen. Das Unternehmen bietet ein wettbewerbsfähiges Gehalt, flexible Arbeitszeiten und die Möglichkeit, direkt mit der Führungsebene zu arbeiten.

Qualifications

• Nachweisliche Praxis mit RAG/Cognitive Search in Produktion, idealerweise auf Azure.
• Hands-on mit Azure OpenAI (ChatGPT) und Parametertuning.
• Starkes Backend in TypeScript/Node.js oder Python.

Responsibilities

• Design und Betrieb von Pipelines auf Azure AI Search.
• Parametertuning für Präzision, Latenz und Kosten.
• Zusammenarbeit mit dem CTO in einem kleinen Team.

Skills

RAG/Cognitive Search

Azure OpenAI (ChatGPT)

Retrieval-Design

TypeScript/Node.js oder Python

Security & Privacy

Kommunikation in Deutsch oder Englisch

Education

EU-Arbeitserlaubnis

Tools

Azure AI Search

SQL

Terraform/Bicep

Job description

Overview

Baue mit uns die Legal‑AI von Jurafuchs – auf Basis unserer proprietären Inhalte (Fragen, Lernmaterial, Foren, Urteile, Gesetzestexte). Fokus ist Backend & Plattform – kein UI/Frontend – mit Verantwortung für Retrieval‑Pipelines, Azure‑Integrationen, Evaluation sowie das Präzision/Speed/Cost‑Trade‑off.

RAG & Suche: Design und Betrieb von Pipelines auf Azure AI Search (Vektor + Hybrid), inkl. Chunking/Embeddings, Re‑Ranking, Deduplizierung und zitierfähigen Antworten.

LLM‑Integration (Azure OpenAI / ChatGPT): Robuste Chat/Tool‑Flows; Parametertuning (temperature, top_p, Penalties, max_tokens) für Präzision, Latenz & Kosten.

Pipelines & Daten: Sichere Aufnahme/Normalisierung deutschsprachiger Rechtsquellen; Metadaten, Filter (PII) und Qualitäts‑Checks.

Observability & Reliability: Logging, Tracing, Metriken; einfache Offline‑Checks für Präzision, Latenz und Kosten.

Security & Compliance: DSGVO/EU‑Datenresidenz, Schutz proprietärer Daten (Key Vault, RBAC, Private Endpoints), Least‑Privilege.

Zusammenarbeit: Direkte Zusammenarbeit mit dem CTO in einem kleinen, pragmatischen Team; Unterstützung von Content‑Erstellung & Lokalisierung (EN/FR perspektivisch).

Nachweisliche Praxis mit RAG/Cognitive Search in Produktion, idealerweise auf Azure.

Hands‑on mit Azure OpenAI (ChatGPT) und Parametertuning (temperature, top_p, Presence/Frequency‑Penalties, Response‑Steuerung).

Retrieval‑Design mit Azure AI Search (Vektor + Hybrid/BM25, Semantic Ranker), Embeddings, Chunking‑Heuristiken.

Starkes Backend in TypeScript/Node.js oder Python; solides SQL + ein Vektorspeicher.

Azure‑Praxis (z.B. App Service/Functions, Storage, Key Vault, Monitor/App Insights), CI/CD, robuste APIs.

Fähigkeit, mit deutschsprachigen Rechtstexten zu arbeiten; professionelle Kommunikation in Deutsch oder Englisch.

EU‑Arbeitserlaubnis.

Erfolgskriterien (90 Tage)

30 Tage: Basis‑Ingestion + RAG‑Chat mit Quellenangaben auf Azure.

60 Tage: Messbare Präzisions-/Latenz‑Verbesserungen durch Parametertuning & Retrieval‑Feinschliff.

90 Tage: Produktionsreife Pipeline mit Monitoring und Kosten‑Kontrollen; erste Content‑Workflows (Authoring/Localization).

DEIN PROFIL

Must‑haves

• Nachweisliche Praxis mit RAG/Cognitive Search in Produktion, idealerweise auf Azure.
• Hands‑on mit Azure OpenAI (ChatGPT) und Parametertuning (temperature, top_p, Presence/Frequency‑Penalties, Response‑Steuerung).
• Retrieval‑Design mit Azure AI Search (Vektor + Hybrid/BM25, Semantic Ranker), Embeddings, Chunking‑Heuristiken.
• Starkes Backend in TypeScript/Node.js oder Python; solides SQL + ein Vektorspeicher.
• Azure‑Praxis (z.B. App Service/Functions, Storage, Key Vault, Monitor/App Insights), CI/CD, robuste APIs.
• Security & Privacy in der Praxis: DSGVO/EU‑Residenz, Secrets, RBAC, sauberes Logging.
• Fähigkeit, mit deutschsprachigen Rechtstexten zu arbeiten; professionelle Kommunikation in Deutsch oder Englisch.
• EU‑Arbeitserlaubnis.

Nice‑to‑haves

• Re‑Ranking/Evaluations‑Methoden; einfache Offline‑Checks für Präzision/Groundedness.
• Kosten/Latenz‑Guardrails (Caching, Streaming, Batching, Fallbacks), Prompt‑Design & Tool‑Schemata.
• Erfahrung mit mehrsprachigen Pipelines (DE→EN/FR) und/oder juristischen Daten.
• IaC (Terraform/Bicep), Networking (Private Endpoints), OpenTelemetry.

Warum wir

Verantwortung für zentrale AI‑Plattform‑Komponenten (Retrieval, LLM‑Integration, Datenpipelines). Direkter Einfluss auf Architektur, Code‑Qualität und Roadmap – you build it, you run it.

Arbeitsumfeld & Kultur

Flache Hierarchien, kurze Wege, moderner Stack, flexibles Remote‑Setup.

Ambitioniertes Team mit Startup‑Spirit, regelmäßige Team‑Events/Retreats, offene Feedback‑Kultur, kontinuierliche Weiterentwicklung.

Benefits

Wettbewerbsfähiges Gehalt • Laptop & Bildschirm nach Wahl • Flexible Arbeitszeiten & Home‑Office.

(An die bestehende Struktur und Benefits angelehnt.)

Über uns

Jurafuchs ist ein EdTech‑Startup, das juristische Bildung digital neu denkt. Wir bauen eine skalierbare Plattform und erweitern sie jetzt um eine starke AI‑Schicht. Du arbeitest in einem kleinen, produktnahen Team mit kurzen Entscheidungswegen und viel Ownership.

Schick uns deinen Lebenslauf und optional GitHub/Portfolio. Bitte ergänze eine kurze Beschreibung (5–10 Sätze) eines RAG/LLM‑Systems, das du gebaut oder getunt hast: Retrieval‑Setup, Azure OpenAI‑Parameterwahl und wie du Präzision, Speed und Kosten optimiert hast.

Personio: https://www.jurafuchs.de/jobs/