AI Platform Engineer (all genders)

Datagroup AG; Deutschland; Remote; EUR 90.000 - 140.000; Vollzeit

Benefits dieser Stelle

Offene Kultur

Umfassende Einarbeitung

Strategische Rolle

KI-Plattform-Hosting

Moderne Infrastruktur

Weiterbildungsbudget

Karrierepfade

AI Platform Engineer

Kleines Team

Feedback-Kultur

Zusammenfassung

Datagroup AG entwickelt und betreibt eine souveräne LLM-Plattform mit OpenAI-kompatiblem Gateway, Modell-Serving und GPU-Infrastruktur. Du setzt kundenspezifische Wissensbindungen (RAG) mit Vector-Datenbanken, Embeddings und Reranking um und sorgst für Kostenkontrolle, Datenschutz sowie Guardrails.

Darüber hinaus etablierst Du Monitoring, Observability und eine containerbasierte Plattform auf Basis von Docker, Kubernetes und CI/CD.

Qualifikationen

• Abgeschlossenes Studium der (Wirtschafts-) Informatik oder eine vergleichbare Qualifikation.
• Mehrjährige Erfahrung im DevOps-, Plattform-Engineering- oder Cloud-/Infrastruktur-Umfeld.
• Fundierte Praxiserfahrung im Betrieb containerbasierter Anwendungen und moderner Plattformen.
• Erfahrung im Aufbau und produktiven Betrieb von LLM- und KI-Diensten, idealerweise in selbst gehosteten Umgebungen.
• Sehr gute Kenntnisse in Kubernetes, Docker und Linux.
• Erfahrung mit CI/CD-Pipelines, Cloud-Plattformen (insbesondere Azure) sowie PostgreSQL.
• Praktische Erfahrung mit LLM-Gateways, RAG-Architekturen, Vector-Datenbanken und Modell-Serving-Lösungen.
• Solide Python-Kenntnisse für Automatisierung und Integrationen.
• Eigenständige und strukturierte Arbeitsweise mit hoher Eigenverantwortung sowie Sicherheits- und Datenschutzbewusstsein.
• Ausgeprägtes Architektur- und Platformverständnis

Aufgaben

• Du entwickelst und betreibst unsere souveräne LLM-Plattform inklusive OpenAI-kompatiblem Gateway, Modell-Serving und GPU-Infrastruktur.
• Du implementierst kundenspezifische Wissensanbindungen (RAG) mit Vector-Datenbanken, Embeddings und Reranking.
• Du stellst Kostenkontrolle, Mandantentrennung, Datenschutz und Guardrails sicher.
• Du etablierst Monitoring und Observability für Performance, Qualität und Nutzung der KI-Dienste.
• Du betreibst und entwickelst unsere containerbasierte Plattform auf Basis von Docker, Coolify und Kubernetes weiter.
• Du automatisierst Deployments und verantwortest CI/CD-Prozesse für unsere Eigenentwicklungen.
• Du betreust unsere Linux-, Cloud- und Datenbank-Infrastruktur und sorgst für Stabilität, Sicherheit und Verfügbarkeit.
• Du baust Monitoring-, Logging- und Alerting-Lösungen auf und entwickelst diese weiter.
• Du gestaltest die Architektur unserer Plattform- und KI-Services aktiv mit.
• Du etablierst Infrastructure as Code und standardisierte Deployment-Prozesse.
• Du sorgst für datenschutzkonforme und mandantensichere Betriebsmodelle.
• Du dokumentierst Lösungen, teilst Wissen im Team und evaluierst neue Technologien im Bereich Platform Engineering und KI

Kenntnisse

Kubernetes

Docker

Linux

CI/CD

Azure

PostgreSQL

Vector-Datenbanken

RAG-Architekturen

Python

Architekturverständnis

Sicherheitsbewusstsein

Ausbildung

Abgeschlossenes Studium der (Wirtschafts-)Informatik oder vergleichbare Qualifikation

Tools

Kubernetes

Docker

Linux

CI/CD-Pipelines

Jobbeschreibung

Aufgaben

• Du entwickelst und betreibst unsere souveräne LLM-Plattform inklusive OpenAI-kompatiblem Gateway, Modell-Serving und GPU-Infrastruktur
• Du implementierst kundenspezifische Wissensanbindungen (RAG) mit Vector-Datenbanken, Embeddings und Reranking
• Du stellst Kostenkontrolle, Mandantentrennung, Datenschutz und Guardrails sicher
• Du etablierst Monitoring und Observability für Performance, Qualität und Nutzung der KI-Dienste
• Du betreibst und entwickelst unsere containerbasierte Plattform auf Basis von Docker, Coolify und Kubernetes weiter
• Du automatisierst Deployments und verantwortest CI/CD-Prozesse für unsere Eigenentwicklungen
• Du betreust unsere Linux-, Cloud- und Datenbank-Infrastruktur und sorgst für Stabilität, Sicherheit und Verfügbarkeit
• Du baust Monitoring-, Logging- und Alerting-Lösungen auf und entwickelst diese weiter
• Du gestaltest die Architektur unserer Plattform- und KI-Services aktiv mit
• Du etablierst Infrastructure as Code und standardisierte Deployment-Prozesse
• Du sorgst für datenschutzkonforme und mandantensichere Betriebsmodelle
• Du dokumentierst Lösungen, teilst Wissen im Team und evaluierst neue Technologien im Bereich Platform Engineering und KI

Skills

• Abgeschlossenes Studium der (Wirtschafts-) Informatik oder eine vergleichbare Qualifikation
• Mehrjährige Erfahrung im DevOps-, Plattform-Engineering- oder Cloud-/Infrastruktur-Umfeld
• Fundierte Praxiserfahrung im Betrieb containerbasierter Anwendungen und moderner Plattformen
• Erfahrung im Aufbau und produktiven Betrieb von LLM- und KI-Diensten, idealerweise in selbst gehosteten Umgebungen
• Sehr gute Kenntnisse in Kubernetes, Docker und Linux
• Erfahrung mit CI/CD-Pipelines, Cloud-Plattformen (insbesondere Azure) sowie PostgreSQL
• Praktische Erfahrung mit LLM-Gateways, RAG-Architekturen, Vector-Datenbanken und Modell-Serving-Lösungen
• Solide Python-Kenntnisse für Automatisierung und Integrationen
• Eigenständige und strukturierte Arbeitsweise mit hoher Eigenverantwortung sowie Sicherheits- und Datenschutzbewusstsein
• Ausgeprägtes Architektur- und Platformverständnis

Was wir bieten

• Bei uns erwartet dich eine offene und kooperative Unternehmenskultur sowie eine vertrauensvolle Arbeitsatmosphäre
• Selbstverständlich erhältst du eine umfassende Einarbeitung mit Unterstützung des gesamten AIS Teams mit flachen Hierarchien - kurzen Entscheidungswegen und hoher Gestaltungsfreiheit
• Strategische Gestaltungsrolle mit großem Einfluss auf die zukünftige Plattformlandschaft
• Mitarbeit an einem der spannendsten Technologiefelder der IT: souveränes LLM-Hosting und KI-Infrastrukturen
• Moderne Infrastruktur mit Kubernetes, Docker, CI/CD und Cloud-Technologien
• Die Möglichkeit, Standards, Prozesse und Architekturentscheidungen aktiv mitzugestalten
• Individuelles Weiterbildungsbudget für Konferenzen, Zertifizierungen und Fachtrainings
• Klare Karriere- und Entwicklungspfade
• Möglichkeit zur Spezialisierung als AI Platform Engineer bzw. LLMOps-Experte
• Kleines, fokussiertes und agiles Team mit kurzen Entscheidungswegen
• Offene Feedback-Kultur mit regelmäßigen 1:1-Gesprächen und Retrospektiven

Du möchtest nicht nur Systeme betreiben, sondern eine strategisch zentrale Plattform von Grund auf mitgestalten? Du bewegst dich sicher zwischen Kubernetes-Clustern, CI/CD-Pipelines und modernen KI-Technologien? Dann bist Du bei uns genau richtig!