NTT DATA Deutschland SE: Forward Deployed Engineer (w/m/x) - AI & Enterprise Solutions 1 1

NTT DATA Deutschland SE

United States

Hybrid

USD 132,000 - 198,000

Full time

14 days+

A complete application in a minute

Tailored resume and cover letter, ready to send.

Get past ATS filters

Benefits offered by this job

Flexible Arbeitszeiten
Home-Office möglich
30 Tage Urlaub
Sabbatical
Remote Arbeit EU-Ausland
Altersvorsorge
Jobrad
Jobticket
Weiterbildung Academy
Gesundheitsangebote

Job summary

NTT DATA Deutschland SE sucht einen erfahrenen Private AI Architect (w/m/x) zur Entwicklung sicherer, skalierbarer AI-/GenAI-Plattformen und zur Verbindung von Architektur mit praktischer Umsetzung. Self-hosted LLMs, RAG und Agentic AI gehören zu Ihrem Verantwortungsbereich.

Sie bringen 10–13 Jahre IT-Erfahrung mit, davon mindestens 5 Jahre in AI/ML-Architektur, beherrschen LLMs, Vector Databases, LangChain, Open-Source-Modelle und arbeiten sicher mit Kubernetes, Docker/OpenShift sowie

Qualifications

  • Langfristige Erfahrung in AI/ML-Architektur und Private/GenAI-Lösungen.
  • Hands-on mit LLMs, RAG, Vektordatenbanken und Open-Source-Modelle.
  • Starke Kenntnisse in Kubernetes, Docker/OpenShift und MLOps/LLMOps.

Responsibilities

  • Design, Entwicklung, Konfiguration und Implementierung von Private AI- und GenAI-Plattformen.
  • Entwicklung von LLM-, RAG- und Agentic-AI-Lösungen bis zur Produktion.
  • Betrieb von Plattformen mit Kubernetes, Monitoring, Governance und Troubleshooting.
  • Deployment von Self-hosted Foundation Models und Optimierung der Performance.
  • Begleitung von Kunden bei AI-Strategie, POCs, MVPs, RFPs und Aufwandsschätzungen.

Skills

AI Architektur
GenAI
LLMs
Kubernetes
Docker/OpenShift
MLOps/LLMOps
Sovereign AI
Deutsch C1

Tools

Kubernetes
LangChain
LlamaIndex
Haystack
Kubeflow
MLflow

Job description

Wir sind Teil von NTT DATA, einem führenden Anbieter von Unternehmens- und Technologiedienstleistungen, KI und digitaler Infrastruktur mit einem Umsatz von über 30 Mrd. $. Als Global Top Employer betreut NTT DATA 75 % der Fortune Global 100-Unternehmen und entwickelt mit Expert:innen in über 70 Ländern gemeinsam innovative Lösungen, die dazu inspirieren, Neues zu wagen und Erfolge sichtbar zu machen. In der DACH-Region sind wir an 15 Standorten in Deutschland, Österreich und der Schweiz vertreten.

Make this the place whereyou grow

Private AI entsteht nicht auf dem Architekturdiagramm. Du bringst sie vom Design bis in den produktiven Betrieb. Als Private AI Architect (w/m/x) entwickelst du sichere, skalierbare und souveräne AI- und GenAI-Plattformen und verbindest dabei Architektur mit echter Hands-on-Umsetzung. Ob Self-hosted LLMs, RAG oder Agentic AI: Du sorgst dafür, dass aus technologischen Möglichkeiten produktionsreife Enterprise-AI-Lösungen werden.

#LI-DS1

Deine Benefits
  • Flexible Arbeitszeiten mit Gleitzeitregelung und Reisezeit ist Arbeitszeit
  • Home-Office Möglichkeit sowie Vereinbarung mit Vergütungszuschuss inkl. Arbeitsplatzausstattung möglich
  • 30 Tage Urlaub, zusätzlich sind der 24.12. und 31.12. arbeitsfreie Tage
  • Sabbatical bis zu einem Jahr möglich
  • Remote Work sowie mobiles Arbeiten im EU-Ausland möglich
  • Attraktive Benefit- und Entgeltoptimierungsprogramme: betriebliche Altersvorsorge, JobRad, Jobticket, exklusive Rabatte über Corporate Benefits und vieles mehr
  • Umfangreiche Gesundheits- und Vorsorgeangebote: verlängerte Entgeltfortzahlung im Krankheitsfall, Betriebsärztliche Betreuung, Unfallversicherung auch für Freizeitunfälle weltweit, Familienservice
  • Interne und externe Weiterbildungsmöglichkeiten in der NTT DATA Academy mit fachlichen Trainings, Zertifizierungsangeboten, Soft-Skill-Schulungen, Udemy Zugang
  • Diverse Communities und Initiativen (zu Diversity, Equity & Inclusion, ESG und mehr) mit Wissensaustausch auf Augenhöhe
  • Teamorientierte Unternehmenskultur mit viel Gestaltungsspielraum
Deine Mission
  • Du designst, entwickelst, konfigurierst und implementierst Private-AI- und GenAI-Plattformen auf Basis von Open-Source- und Self-hosted-Technologien und erstellst High-Level- und Low-Level-Designs, Blueprints sowie Referenzarchitekturen für On-Premises-, Private-Cloud-, Hybrid- und Sovereign-AI-Umgebungen.
  • Du entwickelst und implementierst LLM-, RAG- und Agentic-AI-Lösungen – von Ingestion Pipelines und Vector Databases über Tool Integrations und Orchestrierung bis hin zu Evaluation Components.
  • Du bringst AI-Plattformen mit Kubernetes, Containerisierung und MLOps/LLMOps zuverlässig in den produktiven Betrieb und verantwortest Deployment, Monitoring, Governance sowie Troubleshooting.
  • Du deployest und optimierst Self-hosted Foundation Models und Enterprise-AI-Workloads und verbesserst GPU Utilization, Quantization, Batching, Autoscaling und Latenz für leistungsfähige und hochverfügbare Inference-Architekturen.
  • Du begleitest unsere Kunden bei AI-Strategie, Platform Modernization und Infrastructure Readiness, treibst POCs und MVPs voran und bringst deine Expertise in RFPs, Angebote und Aufwandsschätzungen ein.
Dein Skillset
  • Du verfügst über 10–13 Jahre IT-Erfahrung, davon mindestens 5 Jahre in AI/ML-Architektur, und hast Enterprise-AI-/GenAI-Lösungen in Private-Cloud-, On-Premises- oder Hybrid-Umgebungen erfolgreich umgesetzt.
  • Du bringst ausgeprägte Hands-on-Erfahrung mit Private AI und GenAI mit und beherrschst LLMs, RAG, Vector Databases, Prompt Engineering und Agentic AI sowie Frameworks wie LangChain, LlamaIndex, Haystack oder Semantic Kernel und Open-Source-Modelle wie Llama, Mistral, DeepSeek oder Qwen.
  • Du bist sicher im Umgang mit Kubernetes, Docker/OpenShift und MLOps/LLMOps und kennst Technologien wie MLflow, Kubeflow, KServe, Ray, vLLM oder Ollama sowie Evaluation, Tracing, Monitoring, Drift Detection und Production Support.
  • Du kennst dich mit GPU- und AI-Infrastrukturen aus – einschließlich NVIDIA Stack, CUDA, MIG, Model Serving, Quantization, Distributed Inference/Training, Storage und Networking – und kannst AI-Workloads hinsichtlich Performance, Skalierbarkeit und Verfügbarkeit optimieren.
  • Du verbindest dein technisches Know-how mit einem sicheren Verständnis für Security, Privacy und Sovereign AI, überzeugst im Umgang mit unterschiedlichen Stakeholdern und verfügst über Deutschkenntnisse auf mindestens C1-Niveau.

Mit uns hast du unzählige Möglichkeiten, groß zu denken, mutig zu handeln und Verantwortung zu übernehmen. Gestalte deine Zukunft in einer Kultur, die Zugehörigkeit lebt und dir Raum für Lernen und Networking gibt.

Vielfalt ist ein unverzichtbarer Teil unseres Erfolges und unserer Unternehmenskultur. Frei von Vorurteilen im Hinblick auf Geschlecht, genderuelle Orientierung, Alter, ethnische und soziale Herkunft, Religion oder Behinderung freuen wir uns dich kennenzulernen. Menschen mit Schwerbehinderung werden bei gleicher Eignung bevorzugt.

Kurzinfo zum Unternehmen

Bei NTT DATA arbeiten wir an einer Zukunft, in der Technologie unsere Welt einfacher, besser und lebenswerter macht: Die human-centered connected future. Dafür braucht es Menschen, die bereit sind, unbekannte Pfade zu betreten. Die bereit sind, die digitale Zukunft in die Hand zu nehmen: Profis mit Pioniergeist – Menschen wie dich!

NTT DATA – ein Teil der NTT Group – ist Trusted Global Innovator von Business- und IT-Lösungen mit Hauptsitz in Tokio. Wir unterstützen unsere Kunden bei ihrer Transformation durch Consulting, Branchenlösungen, Business Process Services, Digital- und IT-Modernisierung und Managed Services. Mit NTT DATA können Kunden und die Gesellschaft selbstbewusst in die digitale Zukunft gehen. Wir setzen uns für den langfristigen Erfolg unserer Kunden ein und kombinieren globale Präsenz mit lokaler Kundenbetreuung in über 50 Ländern.

NTT DATA bietet dir viele Möglichkeiten, dich weiterzuentwickeln und deinen Karriereweg zu gehen. Werte wie Gleichberechtigung, Gemeinschaft und Lebensqualität sind fest in unserer Kultur verankert und werden stetig weiterentwickelt.

Get your free, confidential resume review.

or drag and drop your file here.

Similar jobs

Similar jobs worth comparing

NTT DATA Deutschland SE: Lead Private AI Architect (w/m/x) - GenAI, LLM & Enterprise AI Platforms
NTT DATA Deutschland SE: Lead Private AI Architect (w/m/x) - GenAI, LLM & Enterprise AI Platforms

NTT DATA Deutschland SE • United States

Hybrid
USD 180,000 - 260,000
Flexible Arbeitszeiten
Home-Office und Vergütungszuschuss
30 Tage Urlaub + zusätzliche freie Fei
+6
Forward Deployed Engineer (w/m/x) - AI & Enterprise Solutions 1 1 im Home-Office
Forward Deployed Engineer (w/m/x) - AI & Enterprise Solutions 1 1 im Home-Office

ITrheinmain • United States

Remote
USD 180,000 - 260,000
Flexible Arbeitszeiten
Home-Office möglich
30 Tage Urlaub (plus feiertage)
+4
Senior AI Engineer (w/m/x) im Home-Office
Senior AI Engineer (w/m/x) im Home-Office

ITrheinmain • United States

Hybrid
USD 120,000 - 180,000
Flexible Arbeitszeiten
Home-Office möglich
30 Tage Urlaub
+5
Lead Forward Deployed Engineer (w/m/x) - AI & Enterprise Solutions im Home-Office
Lead Forward Deployed Engineer (w/m/x) - AI & Enterprise Solutions im Home-Office

ITrheinmain • United States

Remote
USD 140,000 - 210,000
Lead Private AI Architect (w/m/x) - GenAI, LLM & Enterprise AI Platforms im Home-Office
Lead Private AI Architect (w/m/x) - GenAI, LLM & Enterprise AI Platforms im Home-Office

ITrheinmain • United States

Hybrid
USD 134,000 - 201,000
Flexible Arbeitszeiten
Home-Office Möglichkeit
30 Tage Urlaub + 2 zusätzliche Tage (S
+4
Senior AI Client Delivery Manager (w/m/x) im Home-Office
Senior AI Client Delivery Manager (w/m/x) im Home-Office

ITrheinmain • United States

Remote
USD 101,000 - 157,000
Flexible Arbeitszeiten
30 Tage Urlaub
Sabbatical bis zu einem Jahr
+4
Strategic AI Alliance Manager (w/m/x) im Home-Office
Strategic AI Alliance Manager (w/m/x) im Home-Office

OFFICEbbb • United States

Remote
USD 101,000 - 135,000
Flexible Arbeitszeiten
30 Tage Urlaub
Sabbatical bis zu einem Jahr
+4
Forward Deployment Engineer (w/m/x) - AI & Enterprise Solutions
Forward Deployment Engineer (w/m/x) - AI & Enterprise Solutions

NTT DATA Deutschland SE • United States

Remote
USD 140,000 - 220,000
Flexible Arbeitszeiten
Home-Office möglich
30 Tage Urlaub
+3
Lead Cloud Software Architect für Google Cloud Platform (w/m/x) im Home-Office
Lead Cloud Software Architect für Google Cloud Platform (w/m/x) im Home-Office

ITrheinmain • United States

Hybrid
USD 140,000 - 190,000
Flexible Arbeitszeiten
30 Tage Urlaub
Sabbatical möglich
+4
Lead Cloud Software Architect - Manufacturing & Dual Use Solutions (w/m/x) im Home-Office
Lead Cloud Software Architect - Manufacturing & Dual Use Solutions (w/m/x) im Home-Office

ITrheinmain • United States

Remote
USD 127,000 - 184,000
Flexible Arbeitszeiten
30 Tage Urlaub
Sabbatical möglich
+7