Senior Private AI Architect for Enterprise GenAI

NTT DATA Deutschland SE; United States; Remote; USD 180,000 - 260,000; Full time

Benefits offered by this job

Flexible Arbeitszeiten

Home-Office möglich

30 Tage Urlaub (plus feiertage)

Sabbatical bis zu einem Jahr

Remote Work im EU-Ausland möglich

NTT DATA Academy Weiterbildung

Benefits & Rabatte

Job summary

NTT DATA Deutschland SE sucht eine erfahrene/r Senior AI Architect, die/der Private AI- und GenAI‑Plattformen designet, implementiert und betreibt. Sie arbeiten eng mit Stakeholdern zusammen, um produktionsreife Enterprise‑AI‑Lösungen zu liefern und Geschäftsanforderungen in technologische Architektur zu übersetzen.

Sie bringen umfangreiche Erfahrung mit LLMs, RAG, Vektordatenbanken, Open-Source‑Modellen und MLOps‑Tools mit.

Qualifications

• 10–13 Jahre IT-Erfahrung, davon mindestens 5 Jahre in AI/ML-Architektur.
• Hands-on-Erfahrung mit Private AI und GenAI, inkl. LLMs, RAG, Vektordatenbanken.
• Sicherheit, Datenschutz und Sovereign AI verstehen; Deutschkenntnisse mind. C1.

Responsibilities

• Du designst, entwickelst, konfigurierst und implementierst Private‑AI‑ und GenAI‑Plattformen.
• Du bringst AI-Plattformen mit Kubernetes, Containerisierung und MLOps/UMLOps in Betrieb.
• Du betreibst Deployment, Monitoring, Governance und Troubleshooting.
• Du optimiest Inference‑Architekturen für Performance und Verfügbarkeit.
• Du beteiligst dich an POCs, Angeboten und Aufwandsschätzungen.

Skills

AI/ML-Architektur

Kubernetes

Docker/OpenShift

MLOps/LLMOps

LangChain/LlamaIndex

Tools

Haystack

Semantic Kernel

MLflow

Kubeflow

KServe

Ray

vLLM

Ollama

Job description

NTT DATA Deutschland SE sucht eine erfahrene/r Senior AI Architect, die/der Private AI- und GenAI‑Plattformen designet, implementiert und betreibt. Sie arbeiten eng mit Stakeholdern zusammen, um produktionsreife Enterprise‑AI‑Lösungen zu liefern und Geschäftsanforderungen in technologische Architektur zu übersetzen.

Sie bringen umfangreiche Erfahrung mit LLMs, RAG, Vektordatenbanken, Open-Source‑Modellen und MLOps‑Tools mit.