Senior AI Enablement Engineer – LLM/VLM, Remote-Ready

Axelera AI; United States; Remote; USD 100,000 - 167,000; Full time

Job summary

Axelera AI sucht eine erfahrene Senior AI Application Engineer im Model Enablement Team. Sie arbeiten an LLM- und VLM-Unterstützung auf Metis- und Europa-AIPUs, von Modelluntersuchung bis Bereitstellung im Voyager SDK.

Sie verbinden Kenntnisse in LLM-/VLM-Inferenz mit Softwareentwicklung und nutzen KI-Coding-Agenten, um eigene Arbeiten zu entwickeln, zu testen und zu verifizieren. Flexible, internationale Arbeitsmöglichkeiten inklusive Remote-Arbeit in Europa.

Qualifications

• Mindestens 5 Jahre Softwareentwicklung, davon 2 Jahre ML-Inferenz/ML-Systeme/Tooling.
• Fundierte Transformer-Inferenzkenntnisse: Attention, KV-Cache, Decode/Pre-Fill, Tokenisierung.
• Gute Quantisierung von LLMs; Unterscheidung von Quantisierungsverlusten.
• Starke Python- und PyTorch-Kenntnisse; produktionsreife Software bereitstellen.
• Regelmäßige Nutzung von KI-Coding-Agenten in echten Codebasen.
• Fähigkeit, Forschungscode in praxisnahe Designs zu überführen.

Responsibilities

• Untersuchung von LLMs/VLMs, Prototypen, Performance-Profiling auf Metis/Europa.
• Produktisierung: APIs, Tests, Dokumentation, Freigabekriterien im Voyager SDK.
• Vertragsverantwortung für LLM-/VLM-Bausteine inkl. PyTorch-Referenzimplementierung.
• Integration in Pipeline Builder: Prefill, Decode, KV-Cache, Streaming-Text.
• Qualität: Regressionstests vergleichen, Abweichungen erklären/beheben.
• Erweiterung der Model-Enablement-Plattform mit Hardwarezugriff und Evaluierungen.
• GenAI-Ausrichtung: Voyager SDK-Demos für Edge-Geräte empfehlen.

Skills

Softwareentwicklung

ML-Inferenz

Transformer-Inferenz

Quantisierung

Python

PyTorch

AI-Coding-Agenten

Tools

llama.cpp

vLLM

ONNX Runtime GenAI

ExecuTorch

Triton

TVM

MLIR

Job description

Axelera AI sucht eine erfahrene Senior AI Application Engineer im Model Enablement Team. Sie arbeiten an LLM- und VLM-Unterstützung auf Metis- und Europa-AIPUs, von Modelluntersuchung bis Bereitstellung im Voyager SDK.

Sie verbinden Kenntnisse in LLM-/VLM-Inferenz mit Softwareentwicklung und nutzen KI-Coding-Agenten, um eigene Arbeiten zu entwickeln, zu testen und zu verifizieren. Flexible, internationale Arbeitsmöglichkeiten inklusive Remote-Arbeit in Europa.