Production AI Engineer on Azure & AKS

HumanInTech; Brussel Hoofdstad; Hybrid; EUR 70,000 - 110,000; Full time

Job summary

HumanInTech in Brüssel sucht eine erfahrene AI-Operations-Engineer, die eine belgische AI-Plattform betreut, die auf Azure und Kubernetes läuft. Sie übernehmen Services von Senior Engineers, betreiben deren Run-Phase zuverlässig und arbeiten eng mit dem AI Platform Architect, Senior AI Engineers, Business-Ownern und IT-Operations zusammen. Der Einsatz ist hybrid, dauert 12 Monate und beginnt am 4.

Januar 2027. Freiberuflich oder als Mitarbeiter bei HumanInTech möglich.

Qualifications

• Mindest 6 Monate Produktionserfahrung mit einer LLM-Anwendung (RAG, Agent oder Dokumentenverarbeitung).
• Qualitätsproblem oder Incident in LLM-Anwendung mithilfe von Traces/Logs untersucht.
• Evaluations einer LLM-Anwendung nach Modell- oder Prompt-Änderung durchgeführt.
• Änderungen an Kubernetes-Workloads und Terraform-Code über CI/CD-Pipelines auf Azure deployed.

Responsibilities

• AI-Services in der Produktion betreiben: Verfügbarkeit, Latenz und Incidents bearbeiten.
• Antwortqualität überwachen: Golden Sets pflegen, QA-Tracking und Feedback.
• Ingestion-Pipelines betreiben und neue Content-Quellen onboarden.
• Agent-Integrationen betreiben: Calls überwachen, Fehler prüfen und Logs analysieren.
• Modell- und Prompt-Änderungen validieren und Release-gerecht umsetzen.
• Run-Kosten verfolgen und Optimierungen vorschlagen.
• DevOps-Artefakte pflegen und Umgebungen konsistent halten.
• Datenschutzregeln anwenden: Trace-Retention und Zugriffskontrollen.

Skills

Azure DevOps

AKS

Azure OpenAI Service

LangChain

LLM

Python

RAG

Terraform

Vector Databases

Englisch

Education

Bachelor oder mehr

Job description

HumanInTech in Brüssel sucht eine erfahrene AI-Operations-Engineer, die eine belgische AI-Plattform betreut, die auf Azure und Kubernetes läuft. Sie übernehmen Services von Senior Engineers, betreiben deren Run-Phase zuverlässig und arbeiten eng mit dem AI Platform Architect, Senior AI Engineers, Business-Ownern und IT-Operations zusammen. Der Einsatz ist hybrid, dauert 12 Monate und beginnt am 4.

Januar 2027. Freiberuflich oder als Mitarbeiter bei HumanInTech möglich.