ML & LLM Ops Spezialist:in

VIENNA INSURANCE GROUP AG Wiener Versicherung Gruppe; Wien; Vor Ort; EUR 40.000 - 70.000; Vollzeit

Zusammenfassung

Vienna Insurance Group AG Wiener Versicherung Gruppe sucht eine/n Experten/in für GenAI-Anwendungen in Vollzeit. Sie konzipieren und implementieren robuste, langfristig wartbare Lösungen gemeinsam mit Data Scientists, Data Engineers, Fachexperten und Product Ownern.

Sie entwickeln RAG-Anwendungen, Copilots und weitere LLM-basierte Lösungen auf Databricks, etablieren LLMOps-Prozesse und kalibrieren AI Judges basierend auf Expert:innen-Feedback.

Qualifikationen

• Abgeschlossenes Studium in Informatik, Software-Engineering, Wirtschaftsinformatik, Data Science oder vergleichbare Qualifikation.
• Sehr gute Python- und Software-Engineering-Kenntnisse; Erfahrung Entwicklung von LLM-Anwendungen vom Prototyp bis produktiv.
• Praktische Erfahrung mit Databricks, MLflow, Model Serving, Vector Search, APIs und Datenpipelines.
• Fundierte Kenntnisse in RAG, Prompt Engineering, Tool Use, Agentenarchitekturen, zustandsbehafteten Workflows und Human-in-the-Loop-Prozessen.
• Erfahrung in der Entwicklung von AI Judges, Evaluierungsdatensätzen und Bewertungsrastern; Validierung anhand menschlicher Einschätzungen.
• Gutes Verständnis von CI/CD, Observability, Security, Governance und Responsible AI.
• Sehr gute Kommunikations- und Teamfähigkeit; selbstständige, lösungsorientierte Arbeitsweise; gute Englischkenntnisse; Deutschkenntnisse vorteilhaft.

Aufgaben

• Sie arbeiten eng mit Data Scientists, Data Engineers, Fachexpert:innen und Product Ownern zusammen, um robuste GenAI-Produkte zu konzipieren.
• Sie entwickeln, implementieren und betreiben RAG-Anwendungen, Copilots und weitere LLM-basierte Lösungen auf Databricks.
• Sie etablieren LLMOps-Prozesse inklusive Prompt- und Modellversionierung, automatisierter Tests, Deployment, Monitoring und Guardrails.
• Sie entwickeln AI Judges zur Qualitätsbewertung, Regressionstests und Produktionsmonitoring und kalibrieren diese anhand menschlicher Rückmeldungen.
• Sie bauen agentenbasierte Lösungen mit Tool- und Function-Calling, MCP sowie LangChain/LangGraph-Frameworks.
• Sie sichern Sicherheit, Governance, Zuverlässigkeit, geringe Latenz und Kosteneffizienz sowie wiederverwendbare Komponenten und Dokumentationen.

Kenntnisse

Python

LLM-Frameworks

RAG-Apps

LangChain

Databricks

MLflow

Model Serving

APIs

CI/CD

Englisch

Ausbildung

Abgeschlossenes Studium Informatik/Software-Engineering/Data Science

Tools

Databricks

MLflow

Vector Search

LangChain

LangGraph

Jobbeschreibung

• Sie arbeiten eng mit Data Scientists, Data Engineers, Fachexpert:innen und Product Ownern zusammen, um robuste und langfristig gut weiterentwickelbare GenAI-Produkte für die gesamte Gruppe zu konzipieren
• Sie entwickeln, implementieren und betreiben RAG-Anwendungen, Copilots bzw. Assistenzsysteme, agentenbasierte Workflows sowie weitere LLM-basierte Lösungen auf Databricks
• Sie etablieren durchgängige LLMOps-Prozesse, einschließlich Prompt- und Modellversionierung, automatisierter Tests, Deployment, Monitoring, Guardrails und Feedbackschleifen
• Sie entwickeln und betreiben AI Judges zur Qualitätsbewertung, für Regressionstests und das Produktionsmonitoring und kalibrieren diese anhand von Feedback menschlicher Expert:innen
• Sie entwickeln agentenbasierte Lösungen unter Einsatz von Tool- und Function-Calling, MCP sowie Orchestrierungsframeworks wie LangChain und LangGraph
• Sie stellen Sicherheit, Governance, Zuverlässigkeit, geringe Latenzzeiten und Kosteneffizienz sicher und tragen zur Entwicklung wiederverwendbarer Komponenten, Standards und Dokumentationen bei
• Sie verfügen über ein abgeschlossenes Studium in Informatik, Software-Engineering, Wirtschaftsinformatik, Data Science, Artificial Intelligence oder über eine vergleichbare praktische Qualifikation
• Sie bringen sehr gute Python- und Software-Engineering-Kenntnisse sowie Erfahrung darin mit, LLM-Anwendungen vom Prototyp bis zum produktiven Einsatz zu entwickeln
• Sie verfügen über praktische Erfahrung mit Databricks, MLflow, Model Serving, Vector Search, APIs und Datenpipelines
• Sie besitzen fundierte praktische Kenntnisse in den Bereichen RAG, Prompt Engineering, Tool Use, Agentenarchitekturen, zustandsbehaftete Workflows und Human-in-the-Loop-Prozesse
• Sie haben Erfahrung in der Entwicklung von AI Judges, Evaluierungsdatensätzen und Bewertungsrastern sowie in deren Validierung anhand menschlicher Einschätzungen
• Sie verfügen über ein sehr gutes Verständnis von CI/CD, Observability, Security, Governance und Responsible AI
• Sie überzeugen durch ausgeprägte Kommunikations- und Teamfähigkeit, eine selbstständige und lösungsorientierte Arbeitsweise sowie sehr gute Englischkenntnisse; Deutschkenntnisse sind von Vorteil

Angebote können je nach VIG Unternehmen variieren

Aufgrund der gesetzlichen Vorgaben informieren wir über das monatliche kollektivvertragliche Mindestgehalt von EUR 3.353,17 brutto auf Basis einer Vollzeitbeschäftigung (37,5 Stunden / Woche). Selbstverständlich bieten wir eine marktkonforme Bezahlung. Es ist uns wichtig, dass sich Ihr Gehalt an Ihren Qualifikationen und Erfahrungen orientiert, weshalb wir das Gehalt gemeinsam in einem persönlichen Gespräch besprechen.
Diese Vollzeit-Stelle ist ehestmöglich zu besetzen.

• Mehr als 50 Versicherungsgesellschaften & Pensionskassen
• Rund 34.000 Mitarbeiter:innen
• Rund 36 Mio. Kund:innen
• VIG-Aktie an der Wiener, Prager & Budapester Börse notiert
• Standard & Poor´s Rating A+ mit positivem Ausblick

Wir stehen für Vielfalt und Respekt, daher sehen wir es als Bereicherung, Menschen unterschiedlicher Backgrounds, Alter, Geschlecht, sexueller Orientierung, Religion oder Fähigkeiten bei uns zu beschäftigen. Werden Sie Teil unserer vielfältigen Gruppe !

So vielfältig wie Sie - Ihre Perspektiven in der Vienna Insurance Group

Unsere Mitarbeiter:innen zeichnen sich durch Engagement, Kompetenz und Serviceorientierung aus. Die Vielfalt dieser Menschen trägt maßgeblich zu unserem Erfolg bei. Wir bekennen uns dazu, Diversität im Arbeitsumfeld zu fördern und sind stolz darauf, als Arbeitsgeberin faire Chancen für alle zu bieten. Werden auch Sie Teil dieses bunten Teams!

Bewerbungsunterlagen

Lebenslauf und Bewerbungsschreiben sind uns am wichtigsten. Als weitere Unterlagen bieten sich Dienstzeugnisse, Nachweise und Referenzen an, die dann nachgereicht werden können.