Senior AI Architect (m/w/d) - Public Sector

IBM; Köln; Hybrid; EUR 110.000 - 160.000; Vollzeit

Zusammenfassung

IBM Deutschland GmbH in Köln sucht einen Senior AI Architekt (m/w/d) zur Entwicklung und Umsetzung von AI‑Lösungen für öffentliche und private Kunden. Sie arbeiten im Delivery Center, unterstützen Kunden weltweit mit technischem Know-how und gestalten hybride Cloud‑Architekturen erfolgreich.

Sie übernehmen Design, Implementierung und Testing von AI‑Lösungen, führen Teams und beraten Kunden strategisch. Sehr gute Deutschkenntnisse (C1) und gute Englischkenntnisse (B2) runden das Profil ab.

Qualifikationen

• Fundierte Kenntnisse in Informatik mit Schwerpunkt AI/ML, DevSecOps und AIOps.
• Erfahrung im Design, Bewertung und Umsetzung komplexer IT‑Architekturen mit Cloud‑Technologien (AWS, Azure) sowie Generative AI/Large Language Models.
• Praxis in Large Language Models, generativer/agentischer AI zur skalierbaren Lösungserstellung.
• Gute Kenntnisse in Container-Technologien (OpenShift) und GenAI‑Architekturen (RAG, agentische Muster).
• Sehr gute Programmierkenntnisse in Python (z. B. PyTorch)
• Beratungs- und Kundenorientierung, Führung technischer Teams.
• Deutsch mind. C1, Englisch mind. B2.

Aufgaben

• Zusammenarbeit mit Kunden und internen Teams zur Analyse von Anforderungen und Ableitung tragfähiger Lösungsarchitekturen.
• Design, Entwicklung, Integration und Testing von AI‑Lösungen über mehrere Plattformen hinweg.
• Konzeption komplexer System‑ und Cloud‑Architekturen sowie Auswahl geeigneter Technologien und Analytics‑Komponenten.
• Sicherstellung eines durchgängigen Informationsflusses durch fundiertes Verständnis von Datenquellen, Formaten, Schnittstellen und CMS.
• Diese Position ist innerhalb der Hybrid Cloud & Data Service Line.

Kenntnisse

AI/ML

DevSecOps

AIOps

Python

Kubernetes

OpenShift

Deutsch C1

Englisch B2

Ausbildung

Master's Degree

Tools

OpenShift

Kubernetes

Jobbeschreibung

Introduction

Eine Karriere bei IBM Consulting lebt von langfristigen Kundenbeziehungen und enger Zusammenarbeit auf Augenhöhe – weltweit.

Du arbeitest mit Vordenkern aus unterschiedlichsten Branchen daran, die Hybrid-Cloud- und AI-Journey der innovativsten Unternehmen weiterzuentwickeln. Dass du bei deinen Kunden wirklich etwas bewegen kannst, liegt nicht nur an deinem eigenen Know-how, sondern auch an unserem starken Partnernetzwerk und den Technologien aus dem IBM-Portfolio – darunter Softwarelösungen und Red Hat.

Neugier und der Anspruch, ständig dazuzulernen, sind bei uns keine Floskeln, sondern Teil des Arbeitsalltags. Du wirst ermutigt, Dinge zu hinterfragen, über deinen eigenen Bereich hinauszuschauen und neue Ideen einzubringen. Genau daraus entstehen Lösungen, die für unsere Kunden einen echten Unterschied machen. Gleichzeitig legen wir großen Wert auf deine persönliche Weiterentwicklung – in einem Umfeld, das offen ist, sich weiterentwickelt und in dem deine individuellen Stärken zählen.

In dieser Rolle arbeitest du in einem unserer IBM Consulting Client Innovation Center (Delivery Center). Dort unterstützt du Kunden aus dem öffentlichen und privaten Sektor weltweit mit fundiertem technischen und branchenspezifischem Know-how. Unsere Delivery Center stehen für lokale Expertise und helfen unseren Kunden dabei, Innovationen voranzutreiben und neue Technologien erfolgreich einzusetzen.

Your Role And Responsibilities

Als Senior AI Architekt (m/w/d) bei IBM Consulting übernimmst du eine zentrale Rolle bei der Entwicklung und Umsetzung von Lösungen für unsere Kunden.

Zu Deinen Hauptaufgaben Gehören

• Zusammenarbeit mit Kunden und internen Teams zur Analyse von Anforderungen und Ableitung tragfähiger Lösungsarchitekturen
• Verantwortung für Design, Entwicklung, Integration und Testing von AI‑Lösungen über mehrere Plattformen hinweg
• Konzeption komplexer System‑ und Cloud‑Architekturen sowie Auswahl geeigneter Technologien und Analytics‑Komponenten für performante, skalierbare Lösungen
• Sicherstellung eines durchgängigen Informationsflusses durch fundiertes Verständnis von Datenquellen, Formaten, Schnittstellen und CMS.
• Diese Position ist innerhalb der Hybrid Cloud & Data Service Line.

Preferred Education

Master's Degree

Required Technical And Professional Expertise

• Fundierte Kenntnisse in Informatik mit Schwerpunkt auf AI/ Machine Learning / Cognitive Computing sowie DevSecOps und AIOps
• Ausgeprägte Erfahrung im Design, in der Bewertung und Umsetzung komplexer IT-Architekturen mit AI-Komponenten unter Einsatz von Cloud-Technologien (z. B. AWS, Azure) sowie etablierten Frameworks (inkl. Generative AI und Large Language Models)
• Nachgewiesene Praxis in der Anwendung von Large Language Models sowie generativer und agentischer AI zur Entwicklung skalierbarer und robuster AI-/Cognitive-Computing-Lösungen
• Sehr gute technische Kenntnisse in Container-Technologien (z. B. OpenShift inkl. GPU-Nutzung) sowie GenAI- und Agentic-Architekturen (z. B. RAG, agentische Patterns)
• Tiefe Erfahrung mit DevSecOps/MLOps (CI/CD, ML Lifecycle), API-Design und Integration sowie sehr gute Programmierkenntnisse in Python (z. B. PyTorch)
• Ausgeprägte Beratungs- und Kundenorientierung sowie Erfahrung in der Führung technischer Teams in komplexen Projektumfeldern
• Sehr gute Deutschkenntnisse in Wort und Schrift (mind. C1) und gute Englischkenntnisse (mind. B2)

Preferred Technical And Professional Experience

• Erfahrung im Aufbau von hybriden bzw. Multi-Cloud-Umgebungen (z. B. Kubernetes, Vanilla-Setups, OpenShift Container Platform, AWS, Azure).
• Idealerweise bringst du zudem Kenntnisse und Erfahrung in der Zusammenarbeit mit Kunden im öffentlichen Sektor (Public, Government) mit.