AI Solution Architect (m/w/d)

United States Digital Space LLC; United States; Remote; USD 102,423 - 170,706; Full time

Benefits offered by this job

Flexible Arbeitszeiten und Remote Work

Individuelles Hardware-Budget

OpenUp Mental Health-Unterstützung

Weiterbildungsbudget

JobRad oder Firmenwagen

Job summary

United States Digital Space LLC sucht einen AI Solution Architect (m/w/d) zur Gestaltung der KI-/ML-Gesamtarchitektur auf Azure. Du führst ML-/AI-Teams, definierst MLOps-Strategien und bringst Governance- sowie EU‑AI‑Act-Compliance in anspruchsvolle Enterprise-Umgebungen ein.

Du verfügst über umfangreiche Azure-Erfahrung, kennst ML-Plattformen, RAG-Architekturen und Sprachmodelle. Remote-Arbeit wird angeboten; Deutschkenntnisse auf Muttersprachniveau und Englisch auf gutem Niveau sind

Qualifications

• Fundierte Erfahrung mit Azure-basierten KI-/ML-Lösungen, insbesondere Azure ML und Azure OpenAI Service.
• Praktische Erfahrung mit MLOps-Konzepten und entsprechenden Werkzeugen (z. B. MLflow, Kubeflow, Azure ML Pipelines).
• Erfahrung im Aufbau von RAG-Architekturen, Prompt Engineering und Umgang mit Vektordatenbanken.
• CI/CD für ML-Anwendungen und sichere Python-Kenntnisse; Erfahrung mit zwei gängigen ML-Frameworks (z. B. scikit-learn, PyTorch, TensorFlow).
• Enterprise-Architekturen in Cloud-Umgebungen; Kenntnisse zu Databricks, Azure Data Factory/ADL, Docker, Kubernetes, Terraform, Observability-Tools.
• Governance, Security und Compliance in regulierten Umgebungen (ISO 27001, NIS2, EU AI Act).
• Mehrjährige, technischer Leitungs- oder Architektur-Erfahrung; Azure-Zertifizierungen wünschenswert.
• Idealerweise Vorkenntnisse in Energiebranche/Versorgungswirtschaft; Predictive Maintenance, Zeitreihenanalysen.
• Sehr gute Deutschkenntnisse (Muttersprache) und gute Englischkenntnisse.

Responsibilities

• Entwurf und Weiterentwicklung der KI-/ML-Gesamtarchitektur auf Azure als Enterprise-Plattform.
• Technische Leitung von ML-Pipeline-Projekten (Training, Deployment, Monitoring, Drift Detection) inkl. RAG-Architekturen.
• Definieren von MLOps-Strategien, CI/CD, Experiment-Tracking und Model Registry.
• Führung und Koordination eines interdisziplinären Teams aus ML/AI Engineers, LLM Engineers und MLOps Engineers.
• Beratung zu AI Governance, Responsible AI und EU-AI-Act-Compliance; Stakeholder-Management durch Architekturpräsentationen.

Skills

Azure ML

Azure OpenAI Service

MLOps

RAG architectures

Prompt engineering

LangChain / LlamaIndex

Python

CI/CD für ML

ML Frameworks (scikit-learn, PyTorch,/

Education

Mehrjährige ML/AI-Architektur-Erfahrung

Tools

MLflow

Kubeflow

Azure ML Pipelines

Databricks

Docker

Kubernetes

Terraform

Prometheus/Grafana

Application Insights

Job description

Als IT-Dienstleister treiben wir die Digitalisierung des öffentlichen Sektors voran und schaffen echten Mehrwert für Millionen Menschen in Deutschland. Wir können vieles richtig gut, aber eben noch nicht alles. Darum suchen wir immer wieder neue Kolleg:innen, die mit ihren Ideen, ihrem Können und Engagement etwas bewegen wollen. Fühlst du dich angesprochen? Dann gestalte Deine Welt zum Besseren und werde Teil unseres Customer Cluster Environment, Transportation & Energy.

DEINE MISSIONAls AI Solution Architect (m/w/d) gestaltest du die KI-/ML-Gesamtarchitektur für komplexe Enterprise-Umgebungen auf Azure. Du verbindest fundiertes Know-how in ML-Engineering, RAG-Architekturen und MLOps mit einem starken Verständnis für Governance, Compliance und technische Führung. Damit trägst du dazu bei, KI-Lösungen produktionsreif, skalierbar und regelkonform umzusetzen.

Deine Aufgaben:

• Entwurf und Weiterentwicklung der KI-/ML-Gesamtarchitektur auf Azure als Enterprise-KI-Plattform

• Technische Leitung von ML-Pipeline-Projekten, insbesondere in den Bereichen Training, Deployment, Monitoring und Drift Detection, sowie Konzeption und Optimierung von RAG-Architekturen, beispielsweise hinsichtlich Chunking, Retrieval, Guardrails und Context Orchestration

• Definition von MLOps-Strategien einschließlich CI/CD für Modelle, Experiment-Tracking und Model Registry

• Technische Führung und Koordination eines interdisziplinären Teams aus ML/AI Engineers, LLM Engineers und MLOps Engineers

• Beratung zu AI Governance, Responsible AI und EU-AI-Act-Compliance sowie Stakeholder-Management durch Architekturpräsentationen gegenüber IT-Leitung und Fachbereichen

DAS IST UNS WICHTIG Fundierte Erfahrung mit Azure-basierten KI-/ML-Lösungen, insbesondere mit Azure Machine Learning und Azure OpenAI Service; Kenntnisse weiterer Azure AI Services sind von Vorteil. Darüber hinaus bringst du praktische Erfahrung mit MLOps-Konzepten und entsprechenden Werkzeugen mit, beispielsweise MLflow, Kubeflow oder Azure ML Pipelines.

• Erfahrung im Aufbau von RAG-Architekturen, im Prompt Engineering und im Umgang mit Vektordatenbanken sowie Kenntnisse in der Integration von Sprachmodellen über APIs. Erfahrung mit Orchestrierungsframeworks wie LangChain oder LlamaIndex ist von Vorteil.

• Erfahrung mit CI/CD für ML-Anwendungen sowie sichere Python-Kenntnisse. Praktische Erfahrung mit mindestens zwei gängigen Machine-Learning-Frameworks, beispielsweise scikit-learn, PyTorch oder TensorFlow.

• Erfahrung im Aufbau von Enterprise-Architekturen in Cloud-Umgebungen. Kenntnisse in angrenzenden Bereichen wie Datenplattformen, Containerisierung, Container-Orchestrierung, Infrastructure as Code und Observability sind von Vorteil, beispielsweise mit Databricks, Azure Data Factory, Azure Data Lake, Docker, Kubernetes, Terraform, Prometheus, Grafana oder Application Insights.

• Verständnis für Governance-, Sicherheits- und Compliance-Anforderungen in regulierten Umgebungen. Kenntnisse relevanter Standards und Regelwerke wie ISO 27001, NIS2, BSI-Vorgaben oder dem EU AI Act sowie entsprechender Governance-Werkzeuge sind von Vorteil.

• Mehrjährige Erfahrung mit ML-/AI-Architekturen oder vergleichbaren technischen Aufgaben in Enterprise-Umgebungen.

• Erfahrung in einer technischen Leitungs- oder Architekturrolle ist wünschenswert; einschlägige Azure-Zertifizierungen sind ein Plus.

• Idealerweise Erfahrung in der Energiebranche oder Versorgungswirtschaft, mit Predictive Maintenance, Zeitreihenanalysen oder öffentlichen Vergabeverfahren wie VgV und EVB-IT.

• Sehr gute Deutschkenntnisse (Muttersprach-Niveau) sowie gute Englischkenntnisse

DEIN NEUER ARBEITSPLATZ Was bei uns zählt? Klar definierte Rollen, echtes Miteinander und ein gemeinsames Ziel. Wir nennen das Responsiveness – transparent, wertschätzend und zielorientiert.

• Hier bist du am Wandel direkt beteiligt, wenn du möchtest. – Nimm Teil an Projekten, die uns als Unternehmen weiterentwickeln.

• Flexible Arbeitszeiten und Remote Work? – Sind selbstverständlich.

• Individuelles Hardware-Budget? – Stell dir deinen Arbeitsplatz so zusammen, wie du dich am wohlsten fühlst.

• Mental Health? – Dein mentales Wohlbefinden ist uns wichtig. Mit OpenUp unterstützen wir dich und bieten dir jederzeit kostenlosen Zugang zu professioneller psychologischer Unterstützung.

• Individuelles Weiterbildungsbudget? – Egal ob die nächste Zertifizierung oder ein lang ersehnter Sprachkurs – du entscheidest, worin und wann du dich weiterbildest.

• Mitarbeiter:innen-PC-Programm? – Lease dir dein nächstes Device zur rein privaten Nutzung einfach über the company.

• JobRad oder Firmenwagen? – Wir helfen dir dabei, so mobil zu sein, wie du es brauchst.