Senior AI Engineer (w/m/d)

BWI GmbH; Leipzig; Hybrid; EUR 88.000 - 128.000; Vollzeit

Benefits dieser Stelle

30 Tage Urlaub

Brauchtumstag

Benefit-App Guthaben

ÖPNV Steuervergünstigungen

Mobiles Arbeiten

LinkedIn Learning

Jobrad

Zusammenfassung

Die BWI GmbH in Leipzig sucht eine erfahrene Fachkraft zur Gestaltung einer zentralen KI-Plattform, Entwicklung, Betrieb und Optimierung von Inferenz-APIs, sowie Integration von KI-Modellen in unsere Infrastruktur.

Sie bringen ein Masterstudium in Informatik/Mathematik, mindestens 5 Jahre relevante Berufserfahrung, Expertise in Backend-Entwicklung (Python/Go/Rust/Java), MLOps-Know-how (Kubernetes, MLFlow, Kubeflow) und gute Deutsch- sowie Englischkenntnisse.

Qualifikationen

• Abgeschlossenes Masterstudium in Informatik, Mathematik oder vergleichbar.
• Mindestens 5 Jahre relevante Berufserfahrung nach dem Abschluss.
• Erfahrung in Evaluation, Deployment und produktivem Betrieb von KI-Modellen.
• Erfahrung im Prompt-, Kontext- und Tool-Engineering von generativen KI-Modellen.
• Erfahrung in Backend-Entwicklung mit Python, Go, Rust oder Java.
• Erfahrung mit On-Prem Cloud-Techniken (Kubernetes) und MLOps-Frameworks.
• Exzellenz in Leistungsoptimierung und Monitoring (Prometheus, Grafana).
• Sehr gute Deutsch- und Englischkenntnisse.

Aufgaben

• Design, Entwicklung und Betrieb einer zentralen KI-Plattform.
• Integration, Bereitstellung und Optimierung von KI-Modellen über standardisierte Inferenz-APIs.
• Auswahl, Evaluation und Benchmarking von KI-Modellen gemäß Anforderungen.
• Skalierbarkeit, Sicherheit, Zuverlässigkeit und Performance der Inferenz-APIs sicherstellen.
• Bereitstellung von Funktionen/Tools für Chat-Bots und Agenten über MCP, A2A und AG-UI.
• Implementierung/Integration LLM-basierter Agenten mit Python-Frameworks (LangGraph, CrewAI, PydanticAI).
• Zusammenarbeit mit MLOps-Engineers bei Modell-/Service-Integration (GPU-Cluster, Kubernetes).
• Dokumentation und Support für interne/externe Entwickler.

Kenntnisse

KI-Plattform-Design

Evaluation von KI-Modellen

Prompt-/Kontext-/Tool-Engineering

Backend-Entwicklung

Deutsch & Englisch fließend

Ausbildung

Master in Informatik/Mathematik oder vergleichbar

Tools

Kubernetes

MLFlow

Kubeflow

Prometheus

Grafana

Jobbeschreibung

Sorge gemeinsam mit uns für die digitale Zukunftsfähigkeit der Bundeswehr.

Deine Aufgaben:

• Design, Entwicklung und Betrieb einer zentralen KI-Plattform
• Integration, Bereitstellung und Optimierung von KI-Modellen über standardisierte Inferenz-APIs
• Auswahl, Evaluation und Benchmarking von KI-Modellen unter Berücksichtigung von Anwendungsanforderungen
• Sicherstellung der Skalierbarkeit, Sicherheit, Zuverlässigkeit und Performance der Inferenz-APIs unter Last (z. B. Caching, Rate Limiting)
• Bereitstellung von Funktionalitäten und Werkzeugen für Chat-Bots und Agenten über MCP, A2A und AG-UI
• Implementierung und Integration LLM-basierter Agenten mithilfe gängiger Python-Frameworks (z.B. LangGraph, CrewAI, PydanticAI)
• Zusammenarbeit mit MLOps Engineers bei der Integration von KI-Modellen und -Services in unsere Infrastruktur (z. B. GPU-Cluster, Kubernetes)
• Dokumentation und Support für interne sowie externe Entwickler

Dein Profil:

• Abgeschlossenes Masterstudium der Informatik, Mathematik oder einer vergleichbaren Fachrichtung
• Mindestens 5 Jahre relevante Berufserfahrung nach Abschluss des Studiums zwingend erforderlich
• Erfahrung in der Evaluation, Deployment und dem produktiven Betrieb von KI-Modellen
• Erfahrung im Prompt-, Kontext- und Tool-Engineering von generativen KI-Modellen
• Erfahrung in der Backend-Entwicklung mit Python, Go, Rust oder Java
• Erfahrung mit On-Prem Cloud-Techniken (z. B. Kubernetes) und MLOps-Frameworks (MLFlow, Kubeflow)
• Expertise in Leistungsoptimierung und Monitoring (z. B. Prometheus, Grafana)
• Fähigkeit, technische Konzepte eigenständig zu entwickeln, zu bewerten und gegenüber (technischen und nicht-technischen) Stakeholdern zu vertreten
• Erfahrung in der Entwicklung, Fine-Tuning und Training von KI Modellen ist von Vorteil
• Verhandlungssichere Deutschkenntnisse sowie sehr gute Englischkenntnisse in Wort und Schrift

Wir bieten:

• Durch abwechslungsreiche und gesellschaftlich relevante Aufgaben gewährleisten wir den reibungslosen IT-Betrieb und die Digitalisierung der Bundeswehr
• Das Ziel eint uns. Dabei sind für uns ein wertschätzender Umgang miteinander sowie ein großer Teamgeist elementar
• Die Vergütung liegt zwischen 87.700 € und 128.420 €. Die tatsächliche Höhe wird basierend auf deinem Verantwortungsbereich sowie Erfahrungen und Kompetenzen festgelegt
• Wir bieten 30 Tage Jahresurlaub, 1 Brauchtumstag plus Optionen auf individuelle Anpassungen
• Über unsere Benefit-App erhält man ein monatliches Guthaben und kann sich zusätzlich Steuervergünstigungen auf Tickets für den ÖPNV sichern
• Wir ermöglichen Flexibilität, um Beruf und Privatleben in Einklang zu bringen, etwa durch mobiles Arbeiten oder Vertrauensarbeitszeit
• Wir unterstützen die berufliche und persönliche Weiterbildung durch individuelle Maßnahmen sowie einen kostenfreien Zugriff auf LinkedIn Learning
• Unser Jobradangebot ermöglicht das Leasing von bis zu 2 Fahrrädern