Chercheur·euse en sciences mathématiques pour la sécurité de l'IA

LoiZéro; Berlin; Vor Ort; EUR 104.000 - 156.000; Vollzeit

Benefits dieser Stelle

Santé complète

20 jours de vacances

Épargne retraite 4%

Primes 8%

Équipe d'experts

Environnement inclusif

Zusammenfassung

LoiZéro recherche une chercheureuse en sciences mathématiques pour contribuer à des approches fondatrices et théoriques en IA Scientifique, en étroite collaboration avec Yoshua Bengio et une équipe internationale.

Le rôle exige une formation doctorale et une forte capacité à formaliser des idées en garanties de sécurité probabilistes, avec une appétence pour la recherche fondamentale et le partage de connaissances.

Qualifikationen

• Doctorat dans un domaine pertinent pour l’IA Scientifique.
• Solide feuille de route en recherche et formalisation d’intuitions.
• Intérêt et expérience en sûreté technique de l’IA et en pensée abstraite.

Aufgaben

• Explorer de nouveaux architectures et cadres théoriques pour une IA forte et sûre; définir des garanties de sécurité.
• Collaborer avec Yoshua Bengio et les chercheureuses de premier plan pour préciser les exigences formelles et soutenir la validation empirique.
• Analyser et contribuer aux travaux théoriques existants et rédiger des articles scientifiques.
• Rester à jour sur la recherche en sécurité de l’IA et en apprentissage automatique et comprendre les risques des modèles modernes.
• Orienter le programme de recherche de LoiZéro et prioriser les expériences pour répondre aux questions de sécurité.
• Partager les connaissances en sécurité de l’IA et aider à concevoir de nouveaux algorithmes et expériences ML.

Kenntnisse

Recherche fondamentale

Sûreté technique IA

Mathématiques probabilistes

Communication écrite

Travail en équipe

Pensée systémique

Ausbildung

Doctorat (PhD) en apprentissage automatique / informatique / mathématiques / statistiques

Jobbeschreibung

Chercheureuse en sciences mathématiques pour la sécurité de l'IA

Berlin; Montréal

Les entreprises d'IA de pointe investissent des milliards de dollars dans la mise à l'échelle des architectures et des méthodes existantes (par exemple, DPO, RLHF, RLVR). Bien que puissantes, ces approches sont fondamentalement imparfaites et entraînent des problèmes de désalignement, de complaisance et de nombreuses autres formes de comportements nuisibles.

LoiZéro est une organisation à but non lucratif fondée par Yoshua Bengio afin de concevoir des systèmes d'IA avancés qui soient sûrs dès leur conception (safe-by-design). Nous en sommes aux premières étapes du développement de la théorie, de la méthodologie et des systèmes d'apprentissage automatique visant à contrer les risques d'alignement posés par les modèles de pointe actuels, grâce à une approche fondamentalement nouvelle appelée lIA Scientifique (Scientist AI).

Nous recherchons une chercheureuse théoriecienne exceptionnelle pour contribuer à nos efforts fondamentaux et théoriques, en étroite collaboration avec Yoshua Bengio et notre équipe de recherche et d'ingénierie de calibre mondial.

Principales responsabilités:

• Explorer avec audace des territoires inconnus en étudiant de nouvelles architectures de systèmes d'IA, des cadres théoriques et de nouveaux mécanismes de sécurité, afin de définir un modèle d'IA forte (AGI) sûre ainsi que les garanties de sécurité correspondantes.
• Collaborer étroitement avec Yoshua Bengio et d'autres chercheureuses de premier plan pour analyser et affiner les exigences formelles nécessaires à la construction et au déploiement sécurisés de l'IA Scientifique. Cela inclut la démonstration de garanties de sécurité probabilistes sous des contraintes de données et de puissance de calcul finies et, à mesure que le système progresse, le soutien aux équipes de recherche pour la validation empirique.
• Analyser, évaluer et contribuer aux travaux théoriques existants menés chez LoiZéro par Yoshua Bengio et ses chercheureuses principales, y compris la rédaction et la diffusion d'articles scientifiques.
• Assurer une veille scientifique rigoureuse pour rester à l'affût de la recherche pertinente en sécurité de l'IA et en apprentissage automatique, et comprendre en profondeur les risques posés par les modèles de pointe (désalignement, détournement de récompense/reward hacking, objectifs instrumentaux, etc.).
• Examiner et enrichir le programme de recherche global de LoiZéro afin d'orienter et de hiérarchiser les expériences. L'objectif est de répondre efficacement aux questions de sécurité critiques, sans pour autant freiner l'atteinte des plus hauts niveaux de capacité.
• Partager vos connaissances en matière de sécurité de l'IA et aider les chercheureuses et ingénieurs de LoiZéro à mieux concevoir et implémenter de nouveaux algorithmes de ML et de nouvelles expériences.

Compétences et qualifications:

• Doctorat (PhD) en apprentissage automatique, informatique, mathématiques, statistiques, ou dans un domaine connexe pertinent pour le programme de recherche de l'IA Scientifique.
• Solide feuille de route en recherche, particulièrement dans la formalisation et l'analyse technique fructueuse d'intuitions par rapport à des modèles de language.
• Vif intérêt et idéalement une expérience concrète en sûreté technique de l'IA, accompagnée d'une capacité exceptionnelle pour la pensée systémique et abstraite.
• Compréhension approfondie des fondements mathématiques couramment utilisés dans la conception et l'analyse de l'apprentissage automatique probabiliste, en particulier pour les réseaux de neurones et les modèles de langage.
• Persévérance nécessaire pour s'attaquer à des problèmes complexes et mal définis et aptitude à transformer la confusion et les impasses en opportunités pour approfondir la réflexion et la compréhension.
• Excellentes compétences en communication : capacité à articuler des idées complexes, tant à l'oral qu'à l'écrit, auprès de publics techniques et non techniques.
• Aptitude à travailler dans un environnement collaboratif et à contribuer aux objectifs de recherche collectifs.

Un atout majeur :

• La capacité de voyager régulièrement aux côtés de Yoshua et des membres de l'équipe pour participer à des conférences, ce qui accélérera considérablement l'avancement des travaux !

Ce que nous offrons

• La possibilité de contribuer de manière significative à une initiative d'importance mondiale.
• Des avantage sociaux complets en matière de santé (incluant un compte de gestion de la santé mentale et du bien-être).
• 20 jours de vacances par an dès l'embauche.
• Une contribution de l'employeur de 4 % à votre épargne-retraite, sans exigence de contribution équivalente de la part de l'employé.
• Une rémunération supplémentaire totalisant 8 % de votre salaire, à attribuer à une épargne-retraite supplémentaire ou à des primes (non lié à la performance).
• Une équipe d'experts passionnés et compétents.
• Un environnement de travail collaboratif et inclusif dans nos bureaux situés au cœur de la Petite Italie, dans le quartier branché de Mile-Ex, à proximité des transports en commun.

LoiZéro est une organisation à but non lucratif dédiée à faire progresser la recherche et à développer des solutions techniques permettant de concevoir des systèmes d’IA sécuritaires. Son approche scientifique repose sur de nouvelles recherches et méthodes proposées par le professeur Yoshua Bengio, le chercheur en IA le plus cité au monde. Basée à Montréal, LoiZéro mène des recherches pour concevoir des systèmes d’IA non agentiques qui apprennent à comprendre le monde plutôt qu'à y intervenir, en répondant de manière véridique aux questions posées sur la base d'un raisonnement probabiliste transparent et extériorisé. De tels systèmes d'IA pourraient être utilisés pour accélérer la découverte scientifique, superviser les systèmes d'IA agentiques et faire progresser notre compréhension des risques de l'IA et des moyens de les éviter. LoiZéro croit que l’IA doit être considérée comme un bien public mondial, développée et utilisée de manière sécuritaire pour favoriser l’épanouissement humain. Plus d’information : www.loizero.org

Vous avez votre place ici

À LoiZéro, la diversité nous tient à cœur. Nous valorisons un environnement de travail équitable, ouvert et respectueux des différences. Nous encourageons les candidatures de personnes hautement qualifiées désireuses de travailler à la réalisation de notre mission dans un cadre respectueux, inclusif et collaboratif.

Vos informations personnelles seront collectées et traitées par LoiZéro afin d'évaluer votre demande d'emploi conformément à notre politique de vie privée . En vertu des lois sur la protection de la vie privée en vigueur dans votre pays de résidence, vous pouvez disposer de plusieurs droits en matière de protection de la vie privée, comme celui de demander l'accès à vos informations personnelles ou de demander que vos informations personnelles soient rectifiées ou effacées. Vous trouverez des détails sur la manière dont vous pouvez exercer vos droits dans notre politique de protection de la vie privée.