Senior AI Platform & Software Engineer (m/w/d)

Validas AG; München; Hybrid; EUR 90,000 - 130,000; Full time

Benefits offered by this job

Flexible Arbeitszeitgestaltung

Home-Office möglich

Betriebliche Altersvorsorge

Weiterbildungsmöglichkeiten

Flache Hierarchien

Regelmäßige Events

Moderne Büroräume nahe S-Bahn Hackerbr

Kaffeemaschine, Billard & Getränke

Job summary

Validas AG in München sucht eine erfahrene Fachkraft für den Aufbau und Betrieb einer sicheren, produktiven KI-Plattform. Sie arbeiten im Entwicklungsteam an der Basis unserer Softwarelösungen und integrieren KI-Funktionalitäten in bestehende Systeme.

Sie konzipieren und betreiben interne KI- und LLM-Plattformen, stellen Inference Services bereit und evaluieren Modelle sowie Formate. Zudem optimieren Sie Ressourcen, Sicherheit und Governance rund um KI-Anwendungen.

Qualifications

• Abgeschlossenes Studium in Informatik, Data Science, KI oder vergleichbare Qualifikation; alternativ IT-Ausbildung.
• Mehrjährige Erfahrung in Softwareentwicklung, KI-Engineering oder Betrieb produktiver IT-Systeme.
• Sehr gute Linux-Kenntnisse sowie Erfahrung mit APIs, internen Services und verteilten Systemen.

Responsibilities

• Softwareentwicklung und -integration für Validas-Produkte und interne Tools.
• Aufbau, Betrieb und Weiterentwicklung der KI- und LLM-Infrastruktur; Bereitstellung von Inference Services.
• Optimierung von Kontextfenstern, Speicherbedarf, Durchsatz und Hardware-Nutzung; Monitoring und Backup.

Skills

Linux-Experte

APIs & Services

Verteilte Systeme

KI/LLM Konzepte

Security-Grundlagen

Deutsch & Englisch

Analytisches Denken

Education

Informatik-Studium

Data Science / KI Qualifikation

IT-Ausbildung mit Erfahrung

Tools

Ollama

NVIDIA Triton

CUDA Runtime

Job description

München

Voll- oder Teilzeit

Festanstellung

Ihre Aufgaben

Sie möchten eine sichere und produktive KI-Plattform aufbauen, die in echten Softwareprodukten eingesetzt wird? Dann werden Sie Teil unseres Entwicklungsteams und gestalten Sie die technische Basis für die nächste Generation unserer Softwarelösungen.

Bei der Validas übernehmen Sie eine Schlüsselrolle beim Aufbau und der Weiterentwicklung unserer KI-Infrastruktur. Dabei schaffen Sie eine Grundlage für einen sicheren und effizienten Einsatz moderner KI-Technologien.

Sie möchten eine sichere und produktive KI-Plattform aufbauen, die in echten Softwareprodukten eingesetzt wird? Dann werden Sie Teil unseres Entwicklungsteams und gestalten Sie die technische Basis für die nächste Generation unserer Softwarelösungen. Bei der Validas übernehmen Sie eine Schlüsselrolle beim Aufbau und der Weiterentwicklung unserer KI-Infrastruktur. Dabei schaffen Sie eine Grundlage für einen sicheren und effizienten Einsatz moderner KI-Technologien.
Es erwarten Sie unter anderem folgende Aufgaben:

• Softwareentwicklung und -integration: Sie entwickeln innovative Softwarelösungen für unsere Validas-Produkte, interne Tools und Geschäftsprozesse. Dabei integrieren Sie moderne KI-Funktionalitäten in bestehende Anwendungssysteme. Hierfür nutzen Sie sichere APIs, Services und Workflows.
• KI- und LLM-Plattform: Sie konzipieren, betreiben und entwicklen unsere interne KI- und LLM- Infrastruktur weiter. Darüber hinaus stellen Sie lokale Large Language Models als Inference Services bereit und evaluieren geeignete Modelle, Modellformate und Quantisierungsverfahren.
• Performance und Betrieb: Sie optimieren Kontextfenster, Speicherbedarf, Durchsatz, Antwortzeiten und die Nutzung von Hardware-Ressourcen. Zudem stellen Sie einen zuverlässigen Betrieb durch Monitoring, Backup- und Wiederherstellungsprozesse sowie eine vorausschauende Kapazitätsplanung sicher.
• Linux, GPU und Infrastruktur:Sie administrieren die zugrunde liegenden Linux-Systeme und betreuen GPU- sowie Accelerator-Hardware einschließlich Treibern, CUDA-Runtime-Stacks und VRAM-Management. Darüber hinaus unterstützen Sie bei Multi-GPU-Konfigurationen und Hardware-Upgrades.
• Security und Governance: Sie schützen unsere KI-Infrastruktur vor Prompt Injection, Datenabfluss und missbräuchlicher Nutzung. Hierfür implementieren Sie Guardrails, Inhaltsfilter, rollenbasierte Zugriffsmodelle, Audit-Logging, SSO sowie ein sicheres Credential-Management.
• Dokumentation, Architektur und Qualität: Sie erstellen technische Spezifikationen, Betriebsdokumentationen und Sicherheitskonzepte und unterstützen bei Architekturentscheidungen. Darüber hinaus stellen Sie durch Tests, Code Reviews, Monitoring und eine strukturierte Fehleranalyse die Qualität, Stabilität und Wartbarkeit unserer Systeme sicher.

Das bringen Sie mit

• Ein abgeschlossenes Studium im Bereich Informatik, Software Engineering, Data Science, KI oder eine vergleichbare Qualifikation; alternativ eine IT-Ausbildung mit relevanter Berufserfahrung.
• Mehrjährige Erfahrung in Softwareentwicklung, KI Engineering, Systemadministration oder dem Betrieb produktiver IT-Systeme.
• Sehr gute Linux-Kenntnisse sowie Erfahrung mit APIs, internen Services und verteilten Systemen.
• Ein gutes Verständnis moderner KI- und Machine-Learning-Konzepte, insbesondere im Umfeld von LLMs, Embeddings, Inference Services und KI-Workflows.
• Grundkenntnisse in Security, Berechtigungskonzepten, Authentifizierung und sicherem Betrieb von IT-Systemen.
• Analytisches Denken, pragmatische Lösungsorientierung und Freude daran, neue Technologien in robuste, nutzbare Lösungen zu überführen.
• Gute Deutsch- und Englischkenntnisse.

Von Vorteil, aber kein Muss

• Erfahrung mit LLM-Betrieb, KI Serving Frameworks oder Tools wie Ollama, NVIDIA Triton oder vergleichbaren Technologien.
• Kenntnisse zu Modellformaten, Quantisierung, Tokenisierung, Kontextfenstern, LoRA oder Performance-Optimierung für KI-Systeme.
• Praxis mit GPU- oder Accelerator-Hardware, Treibern, CUDA Runtime Stacks, VRAM-Management oder Multi-GPU-Konfigurationen.
• Erfahrung mit Monitoring, Backup, Recovery, Kapazitätsplanung oder dem Betrieb geschäftskritischer Systeme.
• Kenntnisse zu KI-spezifischen Sicherheitsrisiken wie Prompt Injection, Datenabfluss, unsicherer Tool-Nutzung oder übermäßigen Agentenberechtigungen.

• Attraktive Vergütung
• Flexible Arbeitszeitgestaltung & Möglichkeit zum Home-Office
• Betriebliche Altersvorsorge & individuelle Weiterbildungsmöglichkeiten
• Flache Hierarchien, kurze Entscheidungswege
• Legeres Arbeitsumfeld mit Mitarbeitenden aus 20+ verschiedenen Nationen
• Regelmäßige gemeinsame Events
• Großzügig geschnittene, lichtdurchflutete und moderne Büroräume direkt an der S-Bahn-Haltestelle Hackerbrücke im Herzen Münchens
• Billard-Tisch, Games, Getränke und eine High-End-Kaffeemaschine

Über uns

Wir machen die Welt sicherer: Die Validas AG ist ein Hidden Champion im Bereich Functional Safety. Mit der Qualifizierung von Tools, Libraries und Basissoftware sowie leistungsstarken Qualifikation Kits für Codegeneratoren, Compiler und Simulatoren unterstützen wir seit 25 Jahren unsere internationalen Kunden aus Automobil-, Luftfahrt- und Halbleiterindustrie. Dadurch sorgen wir dafür, dass Software höchsten Safety-Ansprüchen und Sicherheitsstandards wie der ISO 26262 oder der IEC 61508 entspricht.

Die Anforderungen an eine sichere und zuverlässige Software wachsen kontinuierlich – und unser Unternehmen auch. Werden Sie Teil der Validas!