Chercheur.se en sécurité de l'IA (Spécialisation apprentissage automatique)

un emploi de Chercheur.se en apprentissage automatique chez LoiZéro; Montreal; On-site; CAD 113,000 - 146,000; Full time

Job summary

Une organisation à but non lucratif recherche un.e chercheur.se en sécurité de l'IA à Montréal. Le candidat idéal contribuera au programme 'Scientist AI' avec une spécialisation en apprentissage automatique. Ce rôle nécessite une expertise en sécurité de l'IA et des connaissances en ML, ainsi qu'une capacité à travailler en équipe et à communiquer des résultats complexes. Nous offrons des avantages complets, des vacances et un environnement de travail inclusif.

Benefits

Avantages santé complets

20 jours de vacances dès l’embauche

Contribution d'épargne retraite de 4%

Qualifications

• Un doctorat dans un domaine pertinent est préféré mais non requis.
• Expérience de recherche en sécurité technique de l'IA.
• Enthousiasme à contribuer au programme 'Scientist AI'.

Responsibilities

• Clarifier les questions de recherche en sécurité de l'IA.
• Analyser et développer de nouvelles idées de solutions.
• Communiquer des résultats complexes à d'autres chercheurs.

Skills

Recherche en sécurité technique de l'IA

Proposition et exécution d'expériences ML

Maîtrise de PyTorch ou TensorFlow

Travail en environnement collaboratif

Communication de résultats complexes

Education

Doctorat dans un domaine pertinent

Tools

PyTorch

TensorFlow

Job description

Chercheur.se en sécurité de l'IA (Spécialisation apprentissage automatique)

Montréal

Nous recherchons un.e chercheur.se en sécurité de l'IA avec une spécialisation en apprentissage automatique (ML) pour rejoindre notre équipe travaillant sur le programme "Scientist AI". Dans ce rôle, vous contribuerez à notre plan en utilisant votre expertise en sécurité de l'IA ainsi que vos connaissances et votre expérience en apprentissage automatique.

Responsabilités principales

• Aider à clarifier les questions de recherche en sécurité de l'IA qui sont centrales pour le programme "Scientist AI".
• Analyser les solutions proposées à ces questions de recherche et développer de nouvelles idées de solutions.
• Proposer, concevoir et implémenter de nouveaux algorithmes et expériences ML visant à résoudre ou à tester des problèmes complexes de sécurité de l'IA.
• Évaluer le programme "Scientist AI" et son intégration dans une vision stratégique plus large pour l'atténuation des risques liés à l'IA, afin de guider et de prioriser efficacement les expériences visant à répondre aux questions de sécurité critiques.
• Communiquer des résultats complexes à d'autres chercheurs et développeurs.

Compétences et qualifications requises

• Un doctorat dans un domaine pertinent est préféré mais non requis si le candidat démontre des capacités exceptionnelles ou une expérience équivalente.
• Expérience de recherche en sécurité technique de l'IA, idéalement avec un accent sur la sécurité de l'AGI (Intelligence Artificielle Générale).
• Expérience dans la proposition, la conception et l'exécution d'expériences ML.
• Maîtrise des frameworks ML tels que PyTorch ou TensorFlow.
• Enthousiasme à contribuer et à façonner le programme "Scientist AI".
• Capacité à travailler dans un environnement collaboratif et à contribuer aux objectifs de recherche collectifs.
• Capacité à échanger sur des résultats complexes avec des collaborateurs de différentes spécialisations.

Compétences et qualifications souhaitées

• Expérience dans certains des domaines de recherche suivants en sécurité de l'IA : fondations d'agents, contrôle de l'IA, sécurité de l'IA de pointe, extraction de connaissances latentes, raisonnement externalisé, schémas d'alignement ambitieux.
• Publications de recherche en apprentissage automatique dans des revues de premier plan (par exemple, NeurIPS, ICML, ICLR, etc.).
• Expérience dans le raffinement et le post-entraînement de modèles de langage.

Ce que nous offrons

• L’occasion de contribuer à une mission unique avec un impact important.
• Des avantages santé complets.
• Un minimum de 20 jours de vacances dès l’embauche.
• Une contribution d'épargne retraite de l’employeur d'un minimum de 4%.
• Des avantages généreux et flexibles conçus pour contribuer à votre bien‑être.
• Une équipe d’experts de leur domaine, des gens passionnés et passionnants.
• Un milieu de travail collaboratif et inclusif avec des bureaux au cœur de la Petite Italie, dans le quartier branché Mile‑Ex à proximité des transports en commun.

À propos de LoiZéro

LoiZéro est une organisation à but non lucratif dédiée à faire progresser la recherche et à développer des solutions techniques permettant de concevoir des systèmes d’IA sécuritaires. Son approche scientifique repose sur de nouvelles recherches et méthodes proposées par le professeur Yoshua Bengio, le chercheur en IA le plus cité au monde. Basée à Montréal, LoiZéro mène des recherches pour concevoir des systèmes d’IA non agentiques qui apprennent à comprendre le monde plutôt qu’à y intervenir, en répondant de manière véridique aux questions posées sur la base d’un raisonnement probabiliste transparent et extériorisé. De tels systèmes d'IA pourraient être utilisés pour accélérer la découverte scientifique, superviser les systèmes d'IA agentiques et faire progresser notre compréhension des risques de l'IA et des moyens de les éviter. LoiZéro croit que l’IA doit être considérée comme un bien public mondial, développée et utilisée de manière sécuritaire pour favoriser l’épanouissement humain. Plus d’information : www.loizero.org

Vous avez votre place ici

À LoiZéro, la diversité nous tient à cœur. Nous valorisons un environnement de travail équitable, ouvert et respectueux des différences. Nous encourageons les candidatures de personnes hautement qualifiées désireuses de travailler à la réalisation de notre mission dans un cadre respectueux, inclusif et collaboratif.