Staff-KI-Anwendungsingenieur:in für heterogenes Computing

Axelera AI; United States; A distancia; USD 140.000 - 210.000; Jornada completa

Ventajas ofrecidas por este puesto de trabajo

Rentenplan

Mitarbeitendenversicherung

Unternehmensanteile

Descripción de la vacante

Axelera AI sucht einen Staff-KI-Anwendungsingenieur im Model-Enablement-Team. Du entwickelst die Model-Enablement-Plattform und planst, wie Modelle auf Metis-/Europa-AIPU, Host-CPU und Beschleunigern ausgeführt werden.

Du arbeitest an Frontend, Graph-Compiler, Runtime und der Anwendungspipeline, bringst Modelle durch Bring-up und verbesserst End-to-End-Leistung in enger Abstimmung mit Graph-Compiler- und Runtime-Teams.

Formación

• Mindestens 8 Jahre Berufserfahrung in Systemen, Compiler, Runtimes oder Performance.
• Praktische Erfahrung mit heterogenem Computing über CPU/GPU/DSP/NPU/FPGA.
• Fundierte Grundlagen in Rechnerarchitektur, Betriebssystemen und paralleler Programmierung.
• Vertrautheit mit ML-Graphrepräsentationen und Compilerkonzepten (Graph-Erfassung, Lowering, Operator-Fusion, Partitionierung, Speicherplanung).
• Sehr gute Kenntnisse in C++ und Python.
• Tägliche Nutzung von KI-Coding-Agenten bei realen Entwicklungsaufgaben.

Responsabilidades

• Plattform Model-Enablement und Agent-Harness implementieren.
• Modellaufnahme analysieren und verteilen auf AIPU, Host-CPU und Beschleuniger.
• Heterogene Ausführung großer Modelle und Pipelines unterstützen.
• End-to-End-Leistung optimieren, Profiling durchführen.
• Kritische Modelle auf Metis/Europa analysieren und Verbesserungen ableiten.

Conocimientos

Systemarchitektur

Heterogenes Computing

Betriebssysteme & Parallelisierung

ML-Graph-Rep & Compiler

C++

Python

KI-Coding-Agenten

Herramientas

MLIR

TVM

CUDA

ONNX-Runtime

Descripción del empleo

Über uns

Axelera AI ist kein gewöhnliches Deep-Tech-Unternehmen. Wir entwickeln die KI-Plattform der nächsten Generation, um alle zu unterstützen, die dazu beitragen möchten, die Menschheit voranzubringen und die Welt zu verbessern.

In nur fünf Jahren haben wir insgesamt 450 Millionen US-Dollar eingeworben und ein erstklassiges Team aus 250+ Mitarbeitenden aufgebaut, darunter 60+ promovierte Fachkräfte mit mehr als 40.000 Zitationen. Unser Team arbeitet sowohl remote aus 21 verschiedenen Ländern als auch an unseren Standorten in Belgien, Frankreich, der Schweiz, Italien und dem Vereinigten Königreich. Unser Hauptsitz befindet sich auf dem High Tech Campus in Eindhoven, Niederlande.

Außerdem haben wir unsere Metis™-KI-Plattform vorgestellt, die eine Effizienz- und Leistungssteigerung um den Faktor 3-5x erreicht. Zudem verfügen wir über eine starke Geschäftspipeline mit einem Volumen von mehr als 100 Millionen US-Dollar.

Unser kompromissloses Engagement für Innovation hat uns fest als globalen Branchenpionier etabliert.

Bist du bereit für die Herausforderung?

Positionsübersicht

Als Staff-KI-Anwendungsingenieur:in im Model-Enablement-Team (Anwendungssoftware) entwickelst du unsere Model-Enablement-Plattform und entscheidest, wie jedes Modell auf der Metis- oder Europa-AIPU, der Host-CPU und den Beschleunigern des Hosts ausgeführt wird. Wie diese Arbeit aufgeteilt und geplant wird, bestimmt einen Großteil der End-to-End-Leistung, die Kund:innen im Voyager SDK erleben.

Die Rolle verbindet Architekturarbeit mit praktischer Entwicklungsarbeit im gesamten Modell-Frontend, Graph-Compiler, Runtime und in der Anwendungspipeline. Beim Bring-up eines Modells deckst du das Frontend und die Graph-Seite ab, während ein:e geräteseitige:r Ingenieur:in das Backend übernimmt.

Unser Team verwendet im Arbeitsalltag KI-Coding-Agenten. Du wirst diese einsetzen, um deine eigene Arbeit zu entwickeln, zu testen und zu verifizieren. Wir freuen uns auch über erfahrene Field-Application-Engineers, technische Leiter:innen und Engineering-Manager:innen, die wieder praktisch entwickeln möchten. Erfahrung in der Planung, Delegation und Überprüfung von Arbeit lässt sich gut auf die Zusammenarbeit mit KI-Agenten übertragen.

Hauptaufgaben:

• Model-Enablement-Plattform und Agent-Harness: Entwickle die Plattform, die Ingenieur:innen und KI-Agenten zum Bring-up von Modellen nutzen: wiederverwendbare Tools zum Partitionieren, Kompilieren, Ausführen und Profilieren; Umgebungen mit Zugriff auf echte Hardware; geschlossene Feedback-Schleifen, die eine Änderung anwenden, sie anhand der Referenz messen und den Vorgang wiederholen; sowie in CI integrierte Verifizierung (Differentialtests, Erkennung von Regressionen).

• Modellaufnahme: Übernimm die Verantwortung dafür, wie ein PyTorch- oder ONNX-Modell erfasst, analysiert und auf die Matrix- und RISC-V-Vektoreinheiten der AIPU, die Host-CPU sowie die Beschleuniger des Hosts (GPU, NPU, Videodecoder) aufgeteilt wird. Dazu gehören Platzierungs-Tags, die Nutzer:innen lesen und überschreiben können. Entwickle dies gemeinsam mit dem Graph-Compiler-Team, sodass es für jedes Modell funktioniert.

• Heterogene Ausführung: Erweitere diese Aufteilung auf große Modelle, Kaskaden und Pipelines mit mehreren Modellen, zum Beispiel durch das Offloading von Modell-Experten und Caching über Geräte- und Host-Speicher hinweg. Stimme den Plan mit dem Graph-Compiler-Team ab.

• End-to-End-Leistung: Bringe gemeinsam mit dem Anwendungsteam (Pipeline Builder) und dem Runtime-Team jedes Modell auf seine bestmögliche End-to-End-Leistung: Überlappung von Host- und Gerätearbeit, Zero-Copy-Puffer, Batching, Multi-Core-Planung und Modelle mit mehreren Eingaben. Profiliere Gerätezeit, Hostzeit und Datenbewegungen und bestätige jede Leistungssteigerung in der vollständigen Pipeline.

• Kritische Modelle: Untersuche die für Kund:innen wichtigsten Modelle, auf Metis und Europa, und setze jede Erkenntnis in eine Verbesserung der Plattform um.

Qualifikationen:

Erforderlich

• 8+ Jahre Berufserfahrung in den Bereichen Systeme, Compiler, Runtimes oder Performance, einschließlich Verantwortung für Systemdesign auf Systemebene.

• Praktische Erfahrung mit heterogenem Computing über CPU, GPU, DSP, NPU oder FPGA hinweg, einschließlich der Abwägung von Rechenleistung, Speicherbandbreite, Latenz und Datenbewegungen.

• Fundierte Grundlagen in Rechnerarchitektur, Betriebssystemen und paralleler Programmierung.

• Vertrautheit mit ML-Graphrepräsentationen und Compilerkonzepten: Graph-Erfassung (torch.export, FX, ONNX), Lowering, Operator-Fusion, Partitionierung und Speicherplanung.

• Sehr gute Kenntnisse in C++ und Python.

• Tägliche Nutzung von KI-Coding-Agenten bei echten Entwicklungsaufgaben sowie das Urteilsvermögen, ihre Ergebnisse zu überprüfen und zu testen.

Wünschenswert

• Praktische Erfahrung mit MLIR oder einem anderen Compiler-Framework (TVM, XLA, TorchInductor, IREE).

• Erfahrung mit einer Inference-Runtime oder einer Execution Engine (ONNX-Runtime-Execution-Provider, eine benutzerdefinierte NPU- oder DSP-Runtime).

• Erfahrung mit GPU-Computing (CUDA, OpenCL, Vulkan) oder SIMD-Optimierung auf Arm oder x86.

• Erfahrung mit Ausführungstechniken für große Modelle, zum Beispiel Auslagern, Expert-Caching, spekulatives Decoding und Pipelining über mehrere Geräte hinweg.

• Erfahrung mit dem Aufbau von Agent-Umgebungen, Evaluierungs-Harnesses oder Verifizierungs-Frameworks (Differentialtests, Erkennung von Regressionen) oder MCP-basierten Tools.

Standort

Wir bieten flexible Arbeitsmodelle mit folgenden Möglichkeiten:

• Du arbeitest an einem unserer Axelera-AI-Standorte (Leuven in Belgien, Amsterdam und Eindhoven in den Niederlanden, Zürich in der Schweiz, Florenz und Mailand in Italien oder Bristol im Vereinigten Königreich), sofern du bereits in der Nähe wohnst.

• Du arbeitest vollständig remote aus jedem europäischen Land (einschließlich des Vereinigten Königreichs), in dem du bereits ansässig bist.

• Du ziehst mit uns um und arbeitest von Italien (Florenz oder Mailand) oder den Niederlanden (Amsterdam oder Eindhoven) aus.

Bitte beachte, dass Bewerber:innen bevorzugt werden, die daran interessiert sind, ihren Wohnsitz in Belgien oder Italien zu haben.

Was wir bieten

Dies ist deine Chance, eine dynamische, schnell wachsende und internationale Organisation mitzugestalten und Teil von ihr zu werden. Wir bieten ein attraktives Vergütungspaket, einschließlich eines Rentenplans, umfangreicher Mitarbeitendenversicherungen und der Möglichkeit, Unternehmensanteile zu erhalten.

Dich erwartet eine offene Kultur, die Kreativität und kontinuierliche Innovation fördert. Gemeinsame Verantwortung und Freiheit mit Verantwortungsbewusstsein prägen die Art und Weise, wie wir als Team handeln und arbeiten.

Bei Axelera AI setzen wir uns mit ganzem Herzen für Chancengleichheit ein und schätzen Vielfalt sehr. Wir engagieren uns dafür, ein herzliches und inklusives Umfeld zu schaffen, das jedes Mitglied unseres Teams stärkt und wertschätzt. Bewerber:innen aller Hintergründe sind willkommen, gemeinsam mit uns die Zukunft der KI zu gestalten.