Senior Cloud AI & LLMOps Engineer (m/w/d)

BCM Solutions GmbH; Stuttgart; Vor Ort; EUR 90.000 - 130.000; Vollzeit

Benefits dieser Stelle

Remote-Arbeit mit flexibler Einsatz

Umfassendes Onboarding-Programm

Team-Events und BCM-Urlaub

Zusammenfassung

BCM Solutions GmbH sucht eine erfahrene Fach- und Führungsposition im Bereich Enterprise AI Operations. Sie entwerfen und betreiben globale, skalierbare Cloud-Infrastrukturen für geschäftskritische KI-Systeme, leiten LLMOps-Projekte und setzen fortgeschrittene Quantisierungstechniken ein.

Zudem koordinieren Sie FinOps-Richtlinien, sichern Datensicherheit und begleiten Kundenarchitekten auf Augenhöhe. Sie übernehmen die fachliche Führung des Teams, evaluieren neue Cloud-Trends und gestalten

Qualifikationen

• Architektur und Betrieb global skalierbarer Enterprise-Cloud-Infrastrukturen
• LLMOps auf Enterprise-Ebene: End-to-End Tracing, Monitoring, Governance-Schnittstellen
• Performance- und Inferenz-Tuning von LLMs im Produktivbetrieb
• Etablierung unternehmensweiter AI FinOps Strategien zur Kostenkontrolle
• Sicherheits- und Compliance-Standards für hochsensible Unternehmensdaten
• Erfahrung in der fachlichen Leitung von DevOps- / Platform-Engineering-Teams

Aufgaben

• Architektur und Betrieb global skalierbarer Enterprise-Cloud-Infrastrukturen realisieren
• Inferenz-Optimierung und Quantisierung von LLMs im Produktivbetrieb
• Governance und FinOps-Richtlinien implementieren
• Teamlead und Mentoring des LLMOps-Teams
• Sicherstellung von Security und Compliance in allen Systemen
• Technische Standards definieren und Beratung von Kunden-Architekten

Kenntnisse

LLMOps Enterprise

Infrastruktur-Design

Multi-Cloud / Hybrid-Cloud

Performance tuning

Governance & FinOps

Security & Compliance

Teamlead / Mentoring

Deutsch/Englisch

Ausbildung

IT-Studium oder vergleichbare Qualifikation

Tools

vLLM

Jobbeschreibung

Kopfbereich

Angebotsart: Arbeit

Veröffentlichungsdatum: Gestern veröffentlicht

Stellenbeschreibung

Was uns besonders macht
Arbeiten bei der BCM Solutions bedeutet beim besten Arbeitgeber mitzugestalten. Mit unseren Kolleginnen und Kollegen gestalten wir seit 2010 aktiv die BCM Solutions GmbH. Jährlich werden wir für unsere phänomenale Arbeit durch unsere BCM Community als bester Arbeitgeber ausgezeichnet. Als Marktführer für PREEvision überzeugen wir mit der Erfahrung unserer Mitarbeiter und Mitarbeiterinnen, die sie durch täglichen Einsatz bei unseren exklusiven Kunden unter Beweis stellen. Die BCM Solutions GmbH steht außerdem für hochwertige Softwarelösungen und Dienstleistungen im Bereich der Softwareentwicklung. Wir verbinden persönliche und fachliche Weiterentwicklung mit Spaß bei der Arbeit und bringen dadurch Kundenprojekte stets zum Erfolg!

Was Dich erwartet:

Enterprise AI Operations: Du konzipierst und verantwortest die global skalierbare Betriebsinfrastruktur (Infrastruktur-Design) für geschäftskritische KI-Systeme.

High-End Optimization: Du leitest komplexe Inferenz-Optimierungsprojekte, etablierst fortgeschrittene Quantisierungs-Verfahren und minimierst Systemlatenzen.

Global FinOps Governance: Du setzt unternehmensweite Richtlinien zur Budgetkontrolle und Kosteneffizienz im Bereich rechenintensiver KI-Anwendungen um.

Security & Observability: Du stellst durch lückenloses Monitoring und Tracing sicher, dass alle Systeme den höchsten Standards für Datensicherheit und Compliance entsprechen.

Mentoring & Teamlead: Du leitest das LLMOps-Team fachlich an, treibst die technische Standardisierung voran und berätst die Kunden-Architekten auf Augenhöhe.

Zukunftsfähigkeit: Du evaluierst wegweisende Cloud-Trends (z. B. Serverless LLM Serving) und machst unsere Betriebsinfrastrukturen fit für die nächste Generation.

Was Du mitbringst:

Expertenkenntnisse

• Architektur und Betrieb global skalierbarer Enterprise-Cloud-Infrastrukturen (Multi-Cloud, Hybrid) für geschäftskritische KI-Systeme.
• LLMOps auf Enterprise-Ebene: End-to-End Tracing, Continuous Evaluation, Monitoring, automatisierte Test-Pipelines und Governance-Schnittstellen.
• Performance- und Inferenz-Tuning von LLMs im Produktivbetrieb (Quantisierung, GPU-Auslastung, Serving-Optimierung via vLLM).

Sehr gute Kenntnisse

• Etablierung unternehmensweiter AI FinOps Strategien zur kontinuierlichen Kostenkontrolle und -optimierung.
• Sicherheits- und Compliance-Standards (Enterprise Security, API-Security, Verschlüsselung) für hochsensible Unternehmensdaten.
• Erfahrung in der fachlichen Leitung von DevOps- / Platform-Engineering-Teams und der Definition technischer Standards.

Persönlich

• Ownership: Du übernimmst die Verantwortung für die Betriebsstabilität und strategische Architekturentscheidungen hochverfügbarer KI-Infrastrukturen.
• Strategischer Weitblick: Du erkennst Technologietrends frühzeitig und überführst sie in zukunftssichere, stabile Betriebskonzepte.
• Wissensmultiplikator: Du liebst es, dein Wissen aktiv an das Team weiterzugeben und komplexe Infrastrukturthemen verständlich zu vermitteln.
• Deutsch (sehr gut) und Englisch (fließend) sowie ein abgeschlossenes IT-Studium oder eine vergleichbare Qualifikation.

Was wir bieten:

• Du kannst in einem rollenbasierten Unternehmen arbeiten #NoHierarchieGehabe
• Du findest bei uns eine offene Unternehmenskommunikation und kurze Entscheidungswege wieder.
• Für Deinen optimalen Start bei der BCM steht ein umfangreiches und individuelles Onboarding-Programm in den Startlöchern.
• Kollegen auf Augenhöhe und unsere Personalentwicklung unterstützen Dich dabei, sowohl fachlich als auch persönlich aufs nächste Level zu kommen.
• Du arbeitest überwiegend remote und genießt dabei maximale Flexibilität. Je nach Projekt bist Du bereit, unsere Kunden remote oder direkt vor Ort zu unterstützen.
• Unvergessliche Mitarbeiterevents: monatliche Teamaktivitäten und ein BCM-Urlaub im Sommer.
• BCM stärkt Deine Balance, egal ob Work oder Life, wir stehen immer hinter Dir.
• Casual oder Anzug? Büro oder Homeoffice? Frühaufsteher oder Nachteule? Du entscheidest, bei uns hast Du die Freiheit, so zu arbeiten, wie es am besten zu Dir passt.
• Du läutest mit unserer BCM Community das Wochenende mit einem (hopfenreichen) Erfrischungsgetränk ein.
• Frisches Obst, Tee, Mineralwasser, Kaffee usw. in unserem Büro selbstverständlich.

Unternehmensdarstellung: BCM Solutions GmbH

In diesem Dokument befinden sich aus Sicherheitsgründen keine Kontaktdaten des Arbeitgebers. Wenn Sie diese sehen möchten, lösen Sie bitte die Sicherheitsfrage und laden Sie das PDF erneut.