Ingénieur.e sénior en apprentissage automatique distribué

LoiZéro; Berlin; Hybrid; EUR 90,000 - 140,000; Full time

Benefits offered by this job

Santé et bien-être

20 jours de congés annuels

4% épargne retraite employeur

8% prime retraite ou bonus

Bureaux Mile-Ex

Job summary

Ingénieur.e sénior en apprentissage automatique distribué chez LoiZéro participera à des projets de recherche de pointe sur la sécurité de l’IA et travaillera en étroite collab­oration avec des chercheurs sur des modèles de très grande taille, entraînement et inférence en environnements distribués.

Le poste est basé à Berlin et Montréal; vous développerez des outils et des flux de travail robustes, en vous appuyant sur des plateformes cloud, des accélérateurs ML et des environnements

Qualifications

• Un diplôme dans un domaine pertinent de l’informatique est requis; diplôme supérieur privilégié mais non obligatoire si expérience exceptionnelle.
• Plus de 3 ans d'expérience dans la conception de frameworks d'entraînement ML distribué avec expérience récente sur Megatron, DeepSpeed, HuggingFace Accelerate, FSDP, vLLM ou verl.
• Capacité à collaborer avec des équipes interfonctionnelles et à documenter les meilleures pratiques en ML et développement logiciel.
• Expérience avec les plateformes cloud (AWS, GCP, Azure) et les gestionnaires de charge (Ray, SLURM).
• Expérience avec les outils de profilage GPU (PyTorch profiler, NVIDIA Nsight).
• Connaissance d'outils de conteneurisation (Docker, Kubernetes).
• Connaissance des infrastructures de données (bases de données vectorielles).
• Contribuer à des projets de recherche de haute qualité en apprentissage profond.

Responsibilities

• Collaborer avec les chercheurs pour accélérer l’entraînement et l’inférence des modèles dans des environnements de calcul distribué.
• Investigaer les goulots d'étranglement, profiler le code et optimiser l’utilisation des ressources.
• Développer des outils et bibliothèques pour orchestrer les ressources de calcul lors des expériences de recherche.
• Établir et documenter les meilleures pratiques des flux ML distribués à grande échelle.

Skills

Distributed ML collaboration

Profiling & debugging

Documentation practices

Cross-functional teamwork

Research collaboration

Education

Bachelor dans l’informatique ou domaine connexe

Master ou Doctorat en ML ou systèmes ML distribués (préféré)

Tools

Megatron

DeepSpeed

HuggingFace Accelerate

FSDP

vLLM

verl

AWS

GCP

Azure

Ray

SLURM

PyTorch Profiler

NVIDIA Nsight

Docker

Kubernetes

gRPC

Bases de données vectorielles

Job description

Ingénieur.e sénior en apprentissage automatique distribué

Berlin; Montréal

Nous recherchons un.e ingénieur.e sénior en apprentissage automatique distribué (distributed ML) pour rejoindre notre équipe travaillant sur un agenda de recherche novateur en sécurité de l'IA. Dans ce rôle, vous travaillerez en étroite collaboration avec des chercheur.se.s en apprentissage automatique pour résoudre des problèmes complexes d'entraînement et d'inférence utilisant des modèles de très grande taille.

Responsabilités Clés

• Collaborer avec les chercheurs.se.s pour accélérer la recherche, l'entraînement et l'inférence des modèles, et faciliter l'utilisation de modèles à grande échelle dans des environnements de calcul distribué.
• Investiguer les goulots d'étranglement de performance, profiler le code des expériences de recherche, déboguer les problèmes signalés et optimiser l'utilisation des ressources de calcul.
• Développer des outils et des bibliothèques logicielles pour simplifier et orchestrer l'utilisation des ressources de calcul distribué pour les expériences de recherche.
• Établir, documenter et maintenir les meilleures pratiques pour les flux de travail de développement de modèles ML distribués à grande échelle.

Compétences et Qualifications

• Un diplôme dans un domaine pertinent de l'informatique (par exemple, informatique, génie informatique, génie logiciel) est requis. Un diplôme d'études supérieures (maîtrise ou doctorat) lié à l'apprentissage automatique ou aux systèmes ML distribués est préférable, mais n'est pas obligatoire si le candidat démontre des capacités et une expérience exceptionnelles.
• Plus de 3 ans d'expérience dans la conception et la mise en œuvre de “frameworks” d'entraînement ML distribué, avec une expérience récente dans l'utilisation, par exemple, de Megatron, DeepSpeed, HuggingFace Accelerate, FSDP, vLLM et/ou verl.
• Capacité à collaborer efficacement avec des équipes interfonctionnelles, à documenter les meilleures pratiques et à se tenir au courant des dernières avancées en ML et en développement de logiciels.
• Expérience avec les plateformes “cloud” (par exemple, AWS, GCP, Azure) et les gestionnaires de charge de travail (par exemple, Ray, SLURM).
• Expérience avec les outils de profilage GPU (par exemple, PyTorch profiler, PyProf, NVIDIA Nsight).
• Familiarité avec les outils de conteneurisation (par exemple, gRPC, Docker, Kubernetes).
• Familiarité avec les infrastructures et plateformes de données (par exemple, bases de données vectorielles).
• Expérience avérée de contribution à des projets de recherche de haute qualité en apprentissage profond.

Le titre d'Ingénieur est utilisé à des fins de référence et peut ou non être le titre officiel du candidat en fonction de la juridiction.

Ce que nous offrons

• L’occasion de contribuer à une mission unique avec un impact important.
• Des avantage sociaux complets en matière de santé (incluant un compte de gestion de la santé mentale et du bien-être).
• 20 jours de vacances par an dès l'embauche.
• Une contribution de l'employeur de 4 % à votre épargne-retraite, sans exigence de contribution équivalente de la part de l'employé.
• Une rémunération supplémentaire totalisant 8 % de votre salaire, à attribuer à une épargne-retraite supplémentaire ou à des primes (non lié à la performance).
• Une équipe d'experts passionnés et compétents.
• Un environnement de travail collaboratif et inclusif dans nos bureaux situés au cœur de la Petite Italie, dans le quartier branché de Mile-Ex, à proximité des transports en commun.

LoiZéro est une organisation à but non lucratif dédiée à faire progresser la recherche et à développer des solutions techniques permettant de concevoir des systèmes d'IA sécuritaires. Son approche scientifique repose sur de nouvelles recherches et méthodes proposées par le professeur Yoshua Bengio, le chercheur en IA le plus cité au monde. Basée à Montréal, LoiZéro mène des recherches pour concevoir des systèmes d’IA non agentiques qui apprennent à comprendre le monde plutôt qu'à y intervenir, en répondant de manière véridique aux questions posées sur la base d'un raisonnement probabiliste transparent et extériorisé. De tels systèmes d'IA pourraient être utilisés pour accélérer la découverte scientifique, superviser les systèmes d'IA agentiques et faire progresser notre compréhension des risques de l'IA et des moyens de les éviter. LoiZéro croit que l’IA doit être considérée comment un bien public mondial, développée et utilisée de manière sécuritaire pour favoriser l’épanouissement humain. Plus d’information : www.loizero.org

Vous avez votre place ici

À LoiZéro, la diversité nous tient à cœur. Nous valorisons un environnement de travail équitable, ouvert et respectueux des différences. Nous encourageons les candidatures de personnes hautement qualifiées désireuses de travailler à la réalisation de notre mission dans un cadre respectueux, inclusif et collaboratif.

Vos informations personnelles seront collectées et traitées par LoiZéro afin d'évaluer votre demande d'emploi conformément à notre politique de vie privée . En vertu des lois sur la protection de la vie privée en vigueur dans votre pays de résidence, vous pouvez disposer de plusieurs droits en matière de protection de la vie privée, comme celui de demander l'accès à vos informations personnelles ou de demander que vos informations personnelles soient rectifiées ou effacées. Vous trouverez des détails sur la manière dont vous pouvez exercer vos droits dans notre politique de protection de la vie privée.