AI Software Engineer (m/w/d)

Empro; Nürnberg; Ibrido; EUR 60.000 - 90.000; Tempo pieno

Vantaggi offerti da questo lavoro

Laptop nach Wahl

30 Tage Urlaub

Hybrides Arbeiten

Descrizione del lavoro

Empro sucht einen erfahrenen AI Backend Developer (m/w/d) zur Weiterentwicklung des WHISE KI-Assistenten. Du verantwortest das Agent-Backend von Orchestrierung über Tools bis zur Datenzugriffsschicht und arbeitest eng mit dem Tech Lead sowie dem AI Software Engineer zusammen.

Du bringst mindestens 5 Jahre Backend-Erfahrung, starke Python/C#-Kenntnisse und Expertise in LLM-Systemen mit. Die Rolle erfordert Reisebereitschaft zu Standorten in Deutschland, Belgien und Rumänien.

Competenze

• Mindestens 5 Jahre Backend-Erfahrung.
• Fundierte Kenntnisse in Python und C#.
• Erfahrung in Architektur und Aufbau von KI-/LLM-Systemen.
• Produktionserfahrung mit LLM-Frameworks.
• Erfahrung in der Evaluation und im Monitoring von LLM-Systemen.
• Prompt Design, Prompt Caching und Token-Kosten-Management.
• Webanwendungssicherheit und Authentifizierung.
• Integration REST-APIs von Drittanbietern.
• Fließende Deutsch- und Englischkenntnisse.
• Reisebereitschaft zu Standorten in Deutschland, Belgien und Rumänien.

Mansioni

• Konzeption, Entwicklung und Betrieb des Backends des KI-Assistenten: Orchestrierung, Tool-Integrationen und Datenzugriff.
• Integration des Assistenten in die WHISE CRM API.
• Weiterentwicklung des Evaluations- und Observability-Setups vor Go-live.
• Sicherstellen, dass Agenten-Aktionen sicher und nachvollziehbar sind.
• Zusammenarbeit mit Product- und Development-Squads.

Conoscenze

Python

C#

KI-/LLM-Architektur

LLM-Frameworks

RAG-Pipelines

Multi-Modell-Orchestrierung

Agent-Frameworks

REST-APIs

Microsoft Graph

Gmail API

Strumenti

Docker

Kubernetes

Azure

ArgoCD

OpenTelemetry

Arize Phoenix

Descrizione del lavoro

Deine Aufgaben

Deine Rolle

Unser KI-Assistent ist direkt in das WHISE CRM integriert und hilft Maklerinnen und Maklern, jeden Tag mehr aus ihren Daten herauszuholen.

Wir suchen dich als AI Backend Developer (m/w/d), um die Weiterentwicklung des WHISE KI-Assistenten voranzutreiben. Du verantwortest das Agent-Backend von Anfang bis Ende, von der Orchestrierung und den Tools bis zur Datenzugriffsschicht.

Du bist Teil unseres R&D / Innovation Squads und berichtest an unsere Head of Development Team. Im Alltag arbeitest du mit dem Tech Lead & Architect des Squads und eng mit unserem AI Software Engineer zusammen, der unsere KI-Innovation vorantreibt.

Deine Aufgaben

• Konzeption, Entwicklung und Betrieb des Backends unseres KI-Assistenten: Orchestrierung, Tool-Integrationen und Datenzugriff.
• Integration des Assistenten in die WHISE CRM API.
• Weiterentwicklung des Evaluations- und Observability-Setups, damit jedes Release vor dem Go-live gemessen wird.
• Sicherstellen, dass Aktionen des Agenten sicher und nachvollziehbar sind, mit Freigabeprozessen für Datenänderungen.
• Zusammenarbeit mit unseren Product- und Development-Squads

Dein Profil

Das zeichnet dich aus

• Neugierig. Du willst ständig dazulernen und gibst dein Wissen gern an andere weiter.
• Teamplayer. Du teilst dein Wissen, holst dir frühzeitig Hilfe und gibst Feedback, mit dem andere etwas anfangen können.
• Offen. Kritik an deiner Idee siehst du als Chance, sie besser zu machen, und du gibst dasselbe zurück.
• Positiv unter Druck.Deadlines und Stress bringen dich nicht aus der Ruhe. Wenn etwas nicht funktioniert, suchst du nach der Lösung, nicht nach einem Schuldigen.

Dein Profil

• Mindestens 5 Jahre Erfahrung in der Backend-Entwicklung.
• Sehr gute Programmierkenntnisse in Python und C#.
• Erfahrung in Architektur und Aufbau von KI-/LLM-Systemen: Agent-Frameworks, RAG-Pipelines, Multi-Modell-Orchestrierung und MCP-Server.
• Produktionserfahrung mit LLM-Frameworks wie Agno, Microsoft Agent Framework oder PydanticAI.
• Erfahrung in der Evaluation und im Monitoring von LLM-Systemen hinsichtlich Qualität, Drift, Latenz und Kosten (LLM-as-a-Judge, Rubrics, Regressionstests).
• Praxis in Prompt Design, Prompt Caching und Steuerung der Token-Kosten über mehrere LLM-Anbieter hinweg, über ein Gateway wie LiteLLM.
• Fundiertes Verständnis von Webanwendungssicherheit: Authentifizierung und Session-Management, sicherer Umgang mit Zugangsdaten und Tokens sowie Eingabevalidierung.
• Erfahrung mit der Integration umfangreicher REST-APIs von Drittanbietern in ein Produkt, z. B. E-Mail-Provider-APIs (Microsoft Graph, Gmail API).
• Fließende Deutsch- und Englischkenntnisse.
• Reisebereitschaft zu unseren Standorten in Deutschland, Belgien und Rumänien.

Pluspunkte

Nichts davon ist Pflicht. Wenn du ein oder zwei Punkte mitbringst, hast du einen Vorsprung. Den Rest lernst du bei uns:

• Cloud und DevOps auf Azure: Docker, Kubernetes (AKS), CI/CD mit Azure DevOps oder ArgoCD.
• LLM-Observability und Cloud-LLM-Plattformen (OpenTelemetry, Arize Phoenix, Azure AI Foundry, AWS Bedrock).
• Erste Frontend-Erfahrung, idealerweise mit React und TypeScript für Chat-Oberflächen.
• Vektorsuche (pgvector) oder Fine-Tuning von LLMs.
• Grundkenntnisse der DSGVO und des EU AI Act oder Erfahrung im SaaS- oder PropTech-Umfeld.
• Eine weitere europäische Sprache, z. B. Französisch, Niederländisch oder Spanisch.

Warum wir?

Was wir dir bieten

• Gehalt: 60.000 – 90.000 € brutto pro Jahr
• 30 Tage bezahlter Urlaub.
• Hybrides Arbeiten: Wir fördern die Arbeit im Büro und Flexibilität im Arbeitsalltag. Wir erwarten 3 Tage pro Woche im Büro, die übrigen Tage kannst du im Homeoffice arbeiten.
• Benefits
• Ausstattung, z. B. Laptop nach Wahl
• Ein Team, in dem deine Architekturentscheidungen auch wirklich live gehen.
• Kontinuierliche Weiterbildung: internes Coaching, teamübergreifender Wissensaustausch und ein Budget für externe Kurse.
• Ein kleines, offenes Team, in dem Ideen zählen, egal von wem sie kommen, Entscheidungen pragmatisch getroffen und Erfolge geteilt werden.
• Spannende, herausfordernde Aufgaben, die dich wachsen lassen: ehrgeizige Ziele, echte Deadlines und ein Team, das hinter dir steht.
• Standort: Hamburg oder Nürnberg.