Azure GenAI Platform Engineer – LLMOps & Cloud CI/CD

PROSTAFF Schweiz GmbH; Zürich; On-site; CHF 120,000 - 180,000; Full time

Job summary

PROSTAFF Schweiz GmbH sucht einen erfahrenen Azure DevOps Engineer zum Aufbau, Betrieb und Weiterentwicklung einer unternehmensweiten Generative-AI-Plattform in Zürich. Fokus liegt auf skalierbarer GenAI-Infrastruktur, Verwaltung von Azure-Diensten, CI/CD, Monitoring und Security.

Sie arbeiten eng mit dem Cloud- und Sicherheitsteam zusammen, um robuste Architekturen, Compliance-Anforderungen und reibungslose Betriebsprozesse sicherzustellen.

Qualifications

• Mehrjährige Erfahrung als DevOps Engineer im Azure-Cloud-Umfeld.

Responsibilities

• Aufbau und Betrieb einer skalierbaren GenAI-Plattform auf Microsoft Azure.
• Konfiguration und Verwaltung von Azure-Diensten wie API Management, AKS, Azure OpenAI, AI Search, Document Intelligence und Azure AI Foundry.
• Automatisierung der Infrastruktur mittels Terraform, Helm und GitLab.
• Aufbau und Optimierung von CI/CD-Pipelines für GenAI-Anwendungen (LLMOps).
• Implementierung von Monitoring, Logging und Alerting mit Grafana, Prometheus und Azure Monitor.
• Integration und Betrieb Kubernetes-basierter Komponenten wie Langfuse.
• Entwicklung technischer Konzepte unter Berücksichtigung von Security-, Architektur- und Compliance-Anforderungen.
• Unterstützung der Anbindung neuer Applikationen an die GenAI-Plattform
• Entwicklung von Komponenten für Authentisierung, Routing, Monitoring und Guardrails
• Analyse und Behebung technischer Probleme im produktiven Betrieb

Skills

Azure DevOps

Azure Cloud

Git/GitLab

Terraform

Kubernetes

Docker

Python/Java

Security/Compliance

German (C2)

English (C1)

Tools

Grafana

Prometheus

Azure API Management

AKS

Azure OpenAI

AI Search

Document Intelligence

Azure AI Foundry

Storage Accounts

Terraform

Helm

Langfuse

Python

Java

Job description

PROSTAFF Schweiz GmbH sucht einen erfahrenen Azure DevOps Engineer zum Aufbau, Betrieb und Weiterentwicklung einer unternehmensweiten Generative-AI-Plattform in Zürich. Fokus liegt auf skalierbarer GenAI-Infrastruktur, Verwaltung von Azure-Diensten, CI/CD, Monitoring und Security.

Sie arbeiten eng mit dem Cloud- und Sicherheitsteam zusammen, um robuste Architekturen, Compliance-Anforderungen und reibungslose Betriebsprozesse sicherzustellen.