Senior Azure DevOps Engineer – GenAI / LLMOps (Ref. #26300)

PROSTAFF Schweiz GmbH; Zürich; On-site; CHF 120,000 - 180,000; Full time

Job summary

PROSTAFF Schweiz GmbH sucht einen erfahrenen Azure DevOps Engineer zum Aufbau, Betrieb und Weiterentwicklung einer unternehmensweiten Generative-AI-Plattform in Zürich. Fokus liegt auf skalierbarer GenAI-Infrastruktur, Verwaltung von Azure-Diensten, CI/CD, Monitoring und Security.

Sie arbeiten eng mit dem Cloud- und Sicherheitsteam zusammen, um robuste Architekturen, Compliance-Anforderungen und reibungslose Betriebsprozesse sicherzustellen.

Qualifications

• Mehrjährige Erfahrung als DevOps Engineer im Azure-Cloud-Umfeld.

Responsibilities

• Aufbau und Betrieb einer skalierbaren GenAI-Plattform auf Microsoft Azure.
• Konfiguration und Verwaltung von Azure-Diensten wie API Management, AKS, Azure OpenAI, AI Search, Document Intelligence und Azure AI Foundry.
• Automatisierung der Infrastruktur mittels Terraform, Helm und GitLab.
• Aufbau und Optimierung von CI/CD-Pipelines für GenAI-Anwendungen (LLMOps).
• Implementierung von Monitoring, Logging und Alerting mit Grafana, Prometheus und Azure Monitor.
• Integration und Betrieb Kubernetes-basierter Komponenten wie Langfuse.
• Entwicklung technischer Konzepte unter Berücksichtigung von Security-, Architektur- und Compliance-Anforderungen.
• Unterstützung der Anbindung neuer Applikationen an die GenAI-Plattform
• Entwicklung von Komponenten für Authentisierung, Routing, Monitoring und Guardrails
• Analyse und Behebung technischer Probleme im produktiven Betrieb

Skills

Azure DevOps

Azure Cloud

Git/GitLab

Terraform

Kubernetes

Docker

Python/Java

Security/Compliance

German (C2)

English (C1)

Tools

Grafana

Prometheus

Azure API Management

AKS

Azure OpenAI

AI Search

Document Intelligence

Azure AI Foundry

Storage Accounts

Terraform

Helm

Langfuse

Python

Java

Job description

Für unseren Kunden aus dem Finanzdienstleistungsumfeld suchen wir einen erfahrenen Azure DevOps Engineer für den Aufbau, Betrieb und die Weiterentwicklung einer unternehmensweiten Generative-AI-Plattform.

• Aufbau und Betrieb einer skalierbaren GenAI-Plattform auf Microsoft Azure
• Konfiguration und Verwaltung von Azure-Diensten wie API Management, AKS, Azure OpenAI, AI Search, Document Intelligence und Azure AI Foundry
• Automatisierung der Infrastruktur mittels Terraform, Helm und GitLab
• Aufbau und Optimierung von CI/CD-Pipelines für GenAI-Anwendungen (LLMOps)
• Implementierung von Monitoring, Logging und Alerting mit Grafana, Prometheus und Azure Monitor
• Integration und Betrieb Kubernetes-basierter Komponenten wie Langfuse
• Entwicklung technischer Konzepte unter Berücksichtigung von Security-, Architektur- und Compliance-Anforderungen
• Unterstützung der Anbindung neuer Applikationen an die GenAI-Plattform
• Entwicklung von Komponenten für Authentisierung, Routing, Monitoring und Guardrails
• Analyse und Behebung technischer Probleme im produktiven Betrieb

• Mehrjährige Erfahrung als DevOps Engineer im Azure-Cloud-Umfeld
• Fundierte Kenntnisse in Git, GitLab, Docker und Terraform
• Tiefgehende Erfahrung mit Azure API Management, AKS, Azure Functions, Azure OpenAI, AI Search, Document Intelligence, Azure AI Foundry und Storage Accounts
• Erfahrung mit Monitoring-, Logging- und Alerting-Lösungen wie Prometheus, Grafana oder Azure Monitor
• Gute Kenntnisse von Infrastructure as Code und CI/CD-Automatisierung
• Erfahrung mit GenAI, RAG, Agentic AI oder LLMOps (von Vorteil)
• Kenntnisse von Azure Entra ID, RBAC und OAuth (von Vorteil)
• Erfahrung mit Kubernetes, Helm und Langfuse (von Vorteil)
• Programmierkenntnisse in Python und/oder Java (von Vorteil)
• Erfahrung in der Konzeption und Abstimmung von Cloud-Architekturen mit Security-Teams (von Vorteil)
• Deutsch C2 und Englisch C1 (von Vorteil)

Einsatzort: Zürich
Startdatum: 01.01.2027
Pensum: 100%
Projektdauer: 15 Monate ++