Responsable de recherche en sécurité de l'IA

un emploi de Chercheur.se en apprentissage automatique chez LoiZéro; Montreal; On-site; CAD 129,000 - 179,000; Full time

Job summary

Une organisation à but non lucratif recherche un.e responsable de recherche en sécurité de l'IA à Montréal. Dans ce rôle, vous aurez l'opportunité de travailler sur des projets innovants et d'utiliser vos compétences en recherche pour faire avancer la sécurité des systèmes d'IA. Nous valorisons la diversité et encourageons toutes les candidatures.

Benefits

Avantages santé complets

Minimum de 20 jours de vacances

Contributions d'épargne retraite

Qualifications

• Plus de 4 ans d'expérience en recherche sur la sécurité de l'IA.
• Historique de contributions à des recherches de haute qualité.
• Capacité à expliquer des concepts complexes.

Responsibilities

• Diriger des projets de recherche sur la sécurité de l'IA.
• Identifier et proposer des améliorations pour l'agenda de recherche.
• Communiquer la compréhension des enjeux de sécurité.

Skills

Leadership de projets de recherche

Pensée critique sur l'IA

Compétences en communication

Collaboration en équipe

Education

Doctorat en informatique ou domaine pertinent

Tools

PyTorch

TensorFlow

Job description

Responsable de recherche en sécurité de l'IA

Montréal

Nous recherchons un.e responsable de recherche en sécurité de l'IA pour rejoindre notre équipe travaillant sur un agenda de recherche novateur en sécurité de l'IA. Dans ce rôle, vous contribuerez à cet agenda et aiderez à le mener, depuis les propositions théoriques jusqu'à la validation de prototypes basés sur des évaluations de sécurité appliquées.

Responsabilités principales

• Jouer un rôle actif dans l'avancement de l'agenda de recherche sur l’IA Scientifique (Scientist AI) en dirigeant des projets de recherche clés sur des objectifs à court et à long terme.
• Contribuer à façonner l'agenda de recherche afin de maximiser son impact sur la réduction des risques catastrophiques liés à l'IA (tels que la perte de contrôle, la manipulation et la tromperie).
• Identifier les faiblesses de sécurité dans l'agenda existant, proposer des améliorations et les communiquer efficacement aux autres membres de l'équipe.
• Aider à établir les priorités de recherche pour le travail conceptuel et empirique.
• Communiquer une compréhension des problèmes et objectifs fondamentaux de la sécurité de l'IA aux autres membres de l'équipe.

Compétences et qualifications

• Doctorat en informatique ou dans un domaine pertinent.
• Plus de 4 ans d'expérience dans la direction de projets de recherche sur la sécurité de l'IA impliquant des modèles d'apprentissage automatique de pointe, avec un accent sur l'alignement, les évaluations appliquées ou les garanties théoriques.
• La capacité de penser de manière critique aux agendas de recherche en sécurité de l'IA en général et à la manière dont ils abordent les problèmes de sécurité identifiés dans la littérature.
• Expérience avec des outils de ML tels que PyTorch ou TensorFlow.
• Solides compétences en communication, écrites et verbales, avec la capacité d'expliquer des idées complexes à des publics diversifiés.
• Historique de contributions à des recherches de haute qualité en sécurité de l'IA et en apprentissage automatique.
• Capacité à travailler en collaboration dans un environnement d'équipe.

Ce que nous offrons

• L’occasion de contribuer à une mission unique avec un impact important.
• Des avantages santé complets.
• Un minimum de 20 jours de vacances dès l’embauche.
• Un contribution d'épargne retraite de l’employ d'un minimum de 4%.
• Des avantages généreux et flexibles conçus pour contribuer à votre bien-être.
• Une équipe d’experts de leur domaine, des gens passionnés et passionnants.
• Un milieu de travail collaboratif et inclusif avec des bureaux au cœur de la Petite Italie, dans le quartier branché Mile-Ex à proximité des transports en commun.

LoiZéro est une organisation à but non lucratif dédiée à faire progresser la recherche et à développer des solutions techniques permettant de concevoir des systèmes d’IA sécuritaires. Son approche scientifique repose sur de nouvelles recherches et méthodes proposées par le professeur Yoshua Bengio, le chercheur en IA le plus cité au monde. Basée à Montréal, LoiZéro mène des recherches pour concevoir des systèmes d’IA non agentiques qui apprennent à comprendre le monde plutôt qu'à y intervenir, en répondant de manière véridique aux questions posées sur la base d'un raisonnement probabiliste transparent et extériorisé. De tels systèmes d'IA pourraient être utilisés pour accélérer la découverte scientifique, superviser les systèmes d'IA agentiques et faire progresser notre compréhension des risques de l'IA et des moyens de les éviter. LoiZéro croit que l’IA doit être considérée comme un bien public mondial, développée et utilisée de manière sécuritaire pour favoriser l’épanouissement humain. Plus d’information : www.loizero.org

Vous avez votre place ici

À LoiZéro, la diversité nous tient à cœur. Nous valorisons un environnement de travail équitable, ouvert et respectueux des différences. Nous encourageons les candidatures de personnes hautement qualifiées désireuses de travailler à la réalisation de notre mission dans un cadre respectueux, inclusif et collaboratif.