Senior LLMOps Engineer for GenAI & RAG Systems

VIENNA INSURANCE GROUP AG Wiener Versicherung Gruppe; Wien; Vor Ort; EUR 40.000 - 70.000; Vollzeit

Zusammenfassung

Vienna Insurance Group AG Wiener Versicherung Gruppe sucht eine/n Experten/in für GenAI-Anwendungen in Vollzeit. Sie konzipieren und implementieren robuste, langfristig wartbare Lösungen gemeinsam mit Data Scientists, Data Engineers, Fachexperten und Product Ownern.

Sie entwickeln RAG-Anwendungen, Copilots und weitere LLM-basierte Lösungen auf Databricks, etablieren LLMOps-Prozesse und kalibrieren AI Judges basierend auf Expert:innen-Feedback.

Qualifikationen

• Abgeschlossenes Studium in Informatik, Software-Engineering, Wirtschaftsinformatik, Data Science oder vergleichbare Qualifikation.
• Sehr gute Python- und Software-Engineering-Kenntnisse; Erfahrung Entwicklung von LLM-Anwendungen vom Prototyp bis produktiv.
• Praktische Erfahrung mit Databricks, MLflow, Model Serving, Vector Search, APIs und Datenpipelines.
• Fundierte Kenntnisse in RAG, Prompt Engineering, Tool Use, Agentenarchitekturen, zustandsbehafteten Workflows und Human-in-the-Loop-Prozessen.
• Erfahrung in der Entwicklung von AI Judges, Evaluierungsdatensätzen und Bewertungsrastern; Validierung anhand menschlicher Einschätzungen.
• Gutes Verständnis von CI/CD, Observability, Security, Governance und Responsible AI.
• Sehr gute Kommunikations- und Teamfähigkeit; selbstständige, lösungsorientierte Arbeitsweise; gute Englischkenntnisse; Deutschkenntnisse vorteilhaft.

Aufgaben

• Sie arbeiten eng mit Data Scientists, Data Engineers, Fachexpert:innen und Product Ownern zusammen, um robuste GenAI-Produkte zu konzipieren.
• Sie entwickeln, implementieren und betreiben RAG-Anwendungen, Copilots und weitere LLM-basierte Lösungen auf Databricks.
• Sie etablieren LLMOps-Prozesse inklusive Prompt- und Modellversionierung, automatisierter Tests, Deployment, Monitoring und Guardrails.
• Sie entwickeln AI Judges zur Qualitätsbewertung, Regressionstests und Produktionsmonitoring und kalibrieren diese anhand menschlicher Rückmeldungen.
• Sie bauen agentenbasierte Lösungen mit Tool- und Function-Calling, MCP sowie LangChain/LangGraph-Frameworks.
• Sie sichern Sicherheit, Governance, Zuverlässigkeit, geringe Latenz und Kosteneffizienz sowie wiederverwendbare Komponenten und Dokumentationen.

Kenntnisse

Python

LLM-Frameworks

RAG-Apps

LangChain

Databricks

MLflow

Model Serving

APIs

CI/CD

Englisch

Ausbildung

Abgeschlossenes Studium Informatik/Software-Engineering/Data Science

Tools

Databricks

MLflow

Vector Search

LangChain

LangGraph

Jobbeschreibung

Vienna Insurance Group AG Wiener Versicherung Gruppe sucht eine/n Experten/in für GenAI-Anwendungen in Vollzeit. Sie konzipieren und implementieren robuste, langfristig wartbare Lösungen gemeinsam mit Data Scientists, Data Engineers, Fachexperten und Product Ownern.

Sie entwickeln RAG-Anwendungen, Copilots und weitere LLM-basierte Lösungen auf Databricks, etablieren LLMOps-Prozesse und kalibrieren AI Judges basierend auf Expert:innen-Feedback.