Senior Azure DevOps Engineer – GenAI / LLMOps

PROSTAFF Schweiz GmbH; Zürich; On-site; CHF 150,000 - 210,000; Full time

Job summary

PROSTAFF Schweiz GmbH sucht einen erfahrenen Azure DevOps Engineer zur Entwicklung einer unternehmensweiten Generative-AI-Plattform auf Microsoft Azure. Sie konzipieren, bauen und betreiben die Infrastruktur, integrieren Azure-Dienste wie API Management, AKS, Azure OpenAI und Document Intelligence.

Sie automatisieren Prozesse mit Terraform, Helm und GitLab, arbeiten an LLM-Ops, CI/CD-Pipelines, Monitoring sowie Sicherheit und Compliance und unterstützen die Anbindung neuer Anwendungen an die

Qualifications

• Mehrjährige Erfahrung als DevOps Engineer im Azure-Cloud-Umfeld.
• Fundierte Kenntnisse in Git, GitLab, Docker und Terraform.
• Ausgeprägte Erfahrung mit Kubernetes-Ökosystem und Langfuse (von Vorteil).
• Erfahrung mit Monitoring-, Logging- und Alerting-Lösungen wie Prometheus, Grafana oder Azure Monitor.
• Deutsch C2 und Englisch C1 (von Vorteil).

Responsibilities

• Aufbau und Betrieb einer skalierbaren GenAI-Plattform auf Microsoft Azure
• Konfiguration und Verwaltung von Azure-Diensten wie API Management, AKS, Azure OpenAI, AI Search, Document Intelligence und Azure AI Foundry
• Automatisierung der Infrastruktur mittels Terraform, Helm und GitLab
• Aufbau und Optimierung von CI/CD-Pipelines für GenAI-Anwendungen (LLMOps)
• Implementierung von Monitoring, Logging und Alerting mit Grafana, Prometheus und Azure Monitor
• Integration und Betrieb Kubernetes-basierter Komponenten wie Langfuse
• Entwicklung technischer Konzepte unter Berücksichtigung von Security-, Architektur- und Compliance-Anforderungen
• Unterstützung der Anbindung neuer Applikationen an die GenAI-Plattform
• Entwicklung von Komponenten für Authentisierung, Routing, Monitoring und Guardrails
• Analyse und Behebung technischer Probleme im produktiven Betrieb

Skills

Azure DevOps

GenAI Plattform

Terraform

GitLab

Docker

Kubernetes

CI/CD Pipelines

Azure Monitor

Prometheus

Grafana

Azure API Management

AKS

Azure OpenAI

Document Intelligence

AI Search

Langfuse

Security

RBAC

OAuth

Python

Java

Tools

Terraform

GitLab

Docker

Kubernetes

Job description

Für unseren Kunden aus dem Finanzdienstleistungsumfeld suchen wir einen erfahrenen Azure DevOps Engineer für den Aufbau, Betrieb und die Weiterentwicklung einer unternehmensweiten Generative-AI-Plattform.

• Aufbau und Betrieb einer skalierbaren GenAI-Plattform auf Microsoft Azure

• Konfiguration und Verwaltung von Azure-Diensten wie API Management, AKS, Azure OpenAI, AI Search, Document Intelligence und Azure AI Foundry

• Automatisierung der Infrastruktur mittels Terraform, Helm und GitLab

• Aufbau und Optimierung von CI/CD-Pipelines für GenAI-Anwendungen (LLMOps)

• Implementierung von Monitoring, Logging und Alerting mit Grafana, Prometheus und Azure Monitor

• Integration und Betrieb Kubernetes-basierter Komponenten wie Langfuse

• Entwicklung technischer Konzepte unter Berücksichtigung von Security-, Architektur- und Compliance-Anforderungen

• Unterstützung der Anbindung neuer Applikationen an die GenAI-Plattform

• Entwicklung von Komponenten für Authentisierung, Routing, Monitoring und Guardrails

• Analyse und Behebung technischer Probleme im produktiven Betrieb

• Mehrjährige Erfahrung als DevOps Engineer im Azure-Cloud-Umfeld

• Fundierte Kenntnisse in Git, GitLab, Docker und Terraform

• Tiefgehende Erfahrung mit Azure API Management, AKS, Azure Functions, Azure OpenAI, AI Search, Document Intelligence, Azure AI Foundry und Storage Accounts

• Erfahrung mit Monitoring-, Logging- und Alerting-Lösungen wie Prometheus, Grafana oder Azure Monitor

• Gute Kenntnisse von Infrastructure as Code und CI/CD-Automatisierung

• Erfahrung mit GenAI, RAG, Agentic AI oder LLMOps (von Vorteil)

• Kenntnisse von Azure Entra ID, RBAC und OAuth (von Vorteil)

• Erfahrung mit Kubernetes, Helm und Langfuse (von Vorteil)

• Programmierkenntnisse in Python und/oder Java (von Vorteil)

• Erfahrung in der Konzeption und Abstimmung von Cloud-Architekturen mit Security-Teams (von Vorteil)

• Deutsch C2 und Englisch C1 (von Vorteil)