Azure DevOps Engineer GenAI Platform

Pro Informatik AG; Zürich; On-site; CHF 140,000 - 170,000; Full time

Job summary

Pro Informatik AG in Zürich sucht einen erfahrenen GenAI-/DevOps-Engineer zum Aufbau, Betrieb und Weiterentwicklung einer modernen GenAI-Plattform auf Basis von Microsoft Azure. Sie konfigurieren Azure API Management, AKS, Azure OpenAI, Azure AI Search, Document Intelligence und Storage Accounts sowie Infrastruktur als Code mit Terraform, Helm und GitLab.

Sie automatisieren Build-, Test- und Release-Prozesse für GenAI-Anwendungen (LLMOps) und betreiben Kubernetes-basierte Services.

Qualifications

• Fundierte DevOps-Toolchain-Erfahrung (Git, GitLab, Docker, Terraform).
• Tiefgehende Azure-Plattformkenntnisse (API Management, AKS, Functions, OpenAI, AI Search, Document Intelligence, Storage).
• Kenntnisse in Monitoring/Logging (Prometheus, Grafana, Azure Monitor) und Alarmierung.
• Erfahrung mit GenAI-Technologien (RAG, Agentic AI) und LLMOps.
• Fließende Deutschkenntnisse.

Responsibilities

• Aufbau, Betrieb und Weiterentwicklung einer GenAI-Plattform auf Basis von Microsoft Azure.
• Konfiguration/Verwaltung von Azure-Ressourcen inkl. API-Management, AKS, Azure OpenAI, Azure AI Search, Document Intelligence und Storage Accounts.
• Automatisierung von Build-, Test- und Release-Prozessen (Infrastructure as Code mit Terraform, Helm, GitLab).
• Monitoring, Logging und Alerting für Plattformkomponenten (Prometheus, Grafana, Azure Monitor) implementieren.

Skills

GenAI

RAG

LLMOps

Deutsch (Fließend)

Python/Java

Architekturvorschläge

Tools

Git

GitLab

Docker

Terraform

AKS

Azure OpenAI

Azure AI Search

Azure Monitor

Job description

• Aufbau, Betrieb und kontinuierliche Weiterentwicklung einer modernen GenAI-Plattform auf Basis von Microsoft Azure
• Konfiguration und Verwaltung von Azure Cloud-Ressourcen, insbesondere Azure API Management, Azure AI Foundry, Azure OpenAI, Azure AI Search, Document Intelligence und Storage Accounts
• Bereitstellung und Verwaltung der Plattforminfrastruktur als Code (Infrastructure as Code) mit Terraform, Helm Charts und GitLab
• Automatisierung von Build-, Test- und Release-Prozessen für GenAI-Anwendungen im Bereich LLMOps, um zuverlässige und effiziente Deployments in Entwicklungs-, Test- und Produktionsumgebungen sicherzustellen.
• Betrieb und Weiterentwicklung Kubernetes-basierter Anwendungen und Services, beispielsweise Langfuse.
• Implementierung und Optimierung von Monitoring-, Logging- und Alerting-Lösungen mit Tools wie Prometheus, Grafana und Azure Monitor.
• Überwachung der Systemleistung, Verfügbarkeit und Protokolle sowie frühzeitige Erkennung und Behebung von Betriebsproblemen.
• Entwicklung und Umsetzung technischer Konzepte für neue Anforderungen sowie für die laufende Optimierung der GenAI-Plattform.
• Berücksichtigung unternehmensweiter und regulatorischer Vorgaben sowie Abstimmung mit IT-Security, Domänenarchitektur und weiteren relevanten Stakeholdern.
• Umsetzung und Weiterentwicklung von Funktionen für Autorisierungsprüfungen, Logging, Monitoring und Routinglogiken.
• Unterstützung der Client-Applikationen bei technischen und konzeptionellen Fragen, Integrationen und dem Onboarding sowie bei Störungen im laufenden Betrieb

Anforderungen

• Fundierte Erfahrung mit DevOps-Toolchains und Automatisierung, insbesondere Git, GitLab, Docker und Terraform
• Tiefgehende Kenntnisse der Microsoft-Azure-Plattform, insbesondere in den Bereichen Azure API Management, Kubernetes Service (AKS), Azure Functions, Azure OpenAI, Azure AI Search, Azure AI Document Intelligence, Azure Storage Accounts
• Kenntnisse im Bereich DevOps, einschliesslich der Nutzung von Monitoring- Tools (z. B. Prometheus, Grafana, Azure Monitor), Logging-Systemen und Alarmierung
• Projekterfahrung mit GenAI-Technologien, insbesondere Retrieval-Augmented Generation (RAG) und Agentic AI
• Fliessende Deutschkenntnisse

Von Vorteil

• Erfahrung in der Optimierung und im produktiven Betrieb von GenAI-Lösungen sowie mit LLMOps
• Fundierte Kenntnisse in Authentisierung und Autorisierung, insbesondere mit Microsoft Entra ID, Role-Based Access Control (RBAC) und OAuth
• Programmiererfahrung mit Python und/oder Java

Persönlichkeit

• Fähigkeit, technische Konzepte und Architekturvorschläge zu erarbeiten und gegenüber IT-Security und Domänenarchitektur zu vertreten.