AI Solution Architect (m/w/d)

pofft Technology Inc.; Deutschland; Remote; EUR 90,000 - 150,000; Full time

Job summary

pofft Technology Inc. sucht eine/n AI Solution Architect (m/w/d) zur Gestaltung der KI-/ML-Gesamtarchitektur in Enterprise-Umgebungen mit Schwerpunkt Microsoft Azure.

Sie leiten ML-Pipeline-Projekte, entwickeln RAG-Architekturen und definieren MLOps-Strategien, arbeiten eng mit ML/AI-Teams und Fachbereichen zusammen und beraten IT-Führung und Stakeholder. Sie bringen fundierte Cloud-KI-/ML-Erfahrung, Python-Exzellenz und Erfahrung mit Frameworks wie LangChain oder LlamaIndex mit.

Qualifications

• Fundierte Erfahrung mit cloudbasierten KI-/ML-Lösungen, idealerweise auf Microsoft Azure.
• Kenntnisse weiterer Cloud- und AI-Services von Vorteil.
• Erfahrung mit MLOps-Konzepten und Werkzeugen wie MLflow, Kubeflow oder Azure ML Pipelines.
• Erfahrung in der Nutzung von RAG-Architekturen, Prompt Engineering und Vektordatenbanken.
• Kenntnisse in der Integration von Sprachmodellen, z.B. LangChain oder LlamaIndex.
• Sehr gute Python-Kenntnisse.
• Erfahrung mit mindestens zwei ML-Frameworks (z.B. scikit-learn, PyTorch, TensorFlow).
• Enterprise-Architekturen in Cloud-Umgebungen aufgebaut.
• Azure/AWS/Google Zertifizierungen sind Plus.
• Idealerweise Energiebranche bzw. Versorgungswirtschaftserfahrung.

Responsibilities

• Entwurf und Weiterentwicklung der KI-/ML-Gesamtarchitektur als Enterprise-Plattform mit Schwerpunkt Azure.
• Technische Leitung von ML-Pipeline-Projekten (Training, Deployment, Monitoring, Drift-Detection).
• Konzeption und Optimierung von RAG-Architekturen (Chunking, Retrieval, Guardrails, Context Orchestration).
• Definition und Weiterentwicklung von MLOps-Strategien (CI/CD, Experiment-Tracking, Model Registry).
• Technische Führung und Koordination interdisziplinärer Teams aus ML/AI Engineers, LLM Engineers und MLOps Engineers.
• Beratung von Stakeholdern zu KI-Architekturen und Präsentation technischer Konzepte gegenüber IT-Leitung.

Skills

AI-Architektur

ML-Engineering

Python-Kenntnisse

MLOps

Stakeholder-Kommunikation

RAG-Architekturen

Tools

MLflow

Kubeflow

Azure ML Pipelines

LangChain

LlamaIndex

Docker

Kubernetes

Terraform

Job description

Als IT-Dienstleister treiben wir die Digitalisierung des öffentlichen Sektors voran und schaffen echten Mehrwert für Millionen Menschen in Deutschland. Wir können vieles richtig gut, aber eben noch nicht alles. Darum suchen wir immer wieder neue Kolleg:innen, die mit ihren Ideen, ihrem Können und Engagement etwas bewegen wollen. Fühlst du dich angesprochen? Dann gestalte Deine Welt zum Besseren und werde Teil unseres Customer Cluster Environment, Transportation & Energy.

Als AI Solution Architect (m/w/d) gestaltest Du die KI-/ML-Gesamtarchitektur für komplexe Enterprise-Umgebungen in der Cloud mit Schwerpunkt Microsoft Azure. Du verbindest fundiertes Know-how in ML Engineering, RAG-Architekturen und MLOps, um KI-Lösungen produktionsreif, skalierbar und sicher umzusetzen. Dabei arbeitest Du eng mit technischen Expert:innen, Fachbereichen und Entscheidungsträgern zusammen und trägst maßgeblich dazu bei, innovative KI-Lösungen erfolgreich zu etablieren.

Deine Aufgaben:

• Entwurf und Weiterentwicklung der KI-/ML-Gesamtarchitektur als Enterprise-KI-Plattform mit Schwerpunkt Microsoft Azure
• Technische Leitung von ML-Pipeline-Projekten, insbesondere in den Bereichen Training, Deployment, Monitoring und Drift Detection
• Konzeption und Optimierung von RAG-Architekturen, beispielsweise hinsichtlich Chunking, Retrieval, Guardrails und Context Orchestration
• Definition und Weiterentwicklung von MLOps-Strategien einschließlich CI/CD für Modelle, Experiment-Tracking und Model Registry
• Technische Führung und Koordination interdisziplinärer Teams aus ML/AI Engineers, LLM Engineers und MLOps Engineers
• Beratung interner und externer Stakeholder zu KI-Architekturen sowie Präsentation technischer Konzepte gegenüber IT-Leitung und Fachbereichen

Fundierte Erfahrung mit cloudbasierten KI-/ML-Lösungen, idealerweise auf Microsoft Azure, insbesondere Azure Machine Learning und Azure OpenAI Service. Kenntnisse weiterer Cloud- und AI-Services sind von Vorteil.

Praktische Erfahrung mit MLOps-Konzepten und entsprechenden Werkzeugen wie MLflow, Kubeflow oder Azure ML Pipelines.

Erfahrung im Aufbau von RAG-Architekturen, Prompt Engineering und im Umgang mit Vektordatenbanken.

Kenntnisse in der Integration und Orchestrierung von Sprachmodellen, idealerweise mit Frameworks wie LangChain oder LlamaIndex.

Erfahrung mit CI/CD für ML-Anwendungen sowie sehr gute Python-Kenntnisse.

Praktische Erfahrung mit mindestens zwei gängigen Machine-Learning-Frameworks, beispielsweise scikit-learn, PyTorch oder TensorFlow.

Erfahrung im Aufbau von Enterprise-Architekturen in Cloud-Umgebungen.

Kenntnisse in angrenzenden Bereichen wie Datenplattformen, Containerisierung, Container-Orchestrierung, Infrastructure as Code und Observability sind von Vorteil, beispielsweise mit Databricks, Azure Data Factory, Azure Data Lake, Docker, Kubernetes, Terraform, Prometheus, Grafana oder Application Insights.

Grundlegendes Verständnis von AI Governance, Responsible AI sowie Sicherheits- und Datenschutzanforderungen im Enterprise-Umfeld.

Mehrjährige Erfahrung mit ML-/AI-Architekturen oder vergleichbaren technischen Aufgaben in Enterprise-Umgebungen.

Erfahrung in einer technischen Leitungs- oder Architekturrolle ist wünschenswert.

Azure-, AWS- oder Google-Cloud-Zertifizierungen sind ein Plus.

Idealerweise Erfahrung in der Energiebranche oder Versorgungswirtschaft sowie mit datengetriebenen Anwendungsfällen.