Développeur logiciel principal - LLM / Senior Software Developer - LLM

Cerence; Montreal; On-site; CAD 80,000 - 100,000; Full time

Job summary

Une entreprise technologique spécialisée recherche un Développeur Logiciel Senior - LLM à Montréal. Le candidat idéal a une expérience minimale de 3 ans dans le développement embarqué, maîtrise C++11/14, et comprend les concepts LLM. Ce rôle inclut le développement de middleware d'interaction vocale et l'optimisation des performances des systèmes embarqués.

Qualifications

• Expérience professionnelle d'au moins 3 ans.
• Maîtrise du développement embarqué en C++11/14.
• Expérience pratique avec Linux ou Android Automotive OS.
• Compréhension des concepts LLM, Agent, RAG.
• Familiarité avec la communication inter-thread et inter-processus.

Responsibilities

• Développement de l’intégration système.
• Collaboration avec les équipes de développement LLM pour intégrer les SDK.
• Développement d'un middleware d’interaction vocale.
• Conception d’une solution hybride intégrant LLM en nuage et en périphérie.
• Optimisation des performances et de la latence de réponse.

Skills

Développement embarqué en C++11/14

Compréhension des concepts LLM

Communication inter-thread

Communication inter-processus

Tools

Linux

Android Automotive OS

Job description

A Moving Experience.

Description du poste:

• Développement de l’intégration système
• Collaborer avec les équipes de développement LLM pour intégrer les SDK dans les systèmes embarqués des véhicules
• Développer un middleware d’interaction vocale pour coordonner les pipelines ASR, NLU et TTS
• Concevoir une solution hybride intégrant les LLM en nuage et en périphérie, et gérer l’arbitrage entre les deux environnements
• Optimisation des performances
• Optimiser la latence de réponse de bout en bout
• Contrôler l’utilisation du processeur et de la mémoire, et accélérer le démarrage à froid

Exigences:

• Expérience professionnelle : 3 ans et plus
• Maîtrise du développement embarqué en C++11/14
• Expérience pratique avec Linux ou Android Automotive OS
• Compréhension des concepts LLM, Agent, RAG et des frameworks/runtime d’inférence associés
• Familiarité avec la communication inter-thread et inter-processus

À propos de Cerence Inc.

Cerence Inc. (Nasdaq : CRNC et www.cerence.com) est le leader mondial dans la création d’expériences uniques et marquantes pour le monde automobile. Issue d’une scission de Nuance en octobre 2019, Cerence est une entreprise indépendante qui s’est rapidement imposée comme chef de file dans le domaine des assistants vocaux pour véhicules. Elle collabore avec les plus grands constructeurs automobiles — de Ford et Fiat Chrysler à Daimler, Audi et BMW, en passant par Geely et SAIC — pour transformer la façon dont une voiture ressent, réagit et apprend. Son expertise repose sur plus de 20 ans de leadership dans l’industrie et sur plus de 500 millions de véhicules en circulation aujourd’hui, dans plus de 70 langues.

EMPLOYEUR ÉQUITABLE

Cerence s’engage fermement à offrir l’égalité des chances en matière d’emploi (EEO) et à respecter toutes les lois fédérales, provinciales et locales interdisant la discrimination à l’embauche fondée sur l’âge, la race, la couleur, le genre, l’identité de genre, l’expression de genre, le sexe, les stéréotypes sexuels, la grossesse, l’origine nationale, l’ascendance, la religion, le handicap physique ou mental, l’état de santé, l’état civil, le statut de citoyenneté, l’orientation sexuelle, le statut militaire ou vétéran protégé, les informations génétiques et toute autre classification protégée. Consultez notre politique sur l’égalité des chances en matière d’emploi.

Sécurité au travail

• Suivre les protocoles de sécurité et les formations pour maintenir un environnement de travail sécuritaire
• Respecter les procédures pour signaler toute activité suspecte
• Adhérer aux procédures de sécurité de l’entreprise pour assurer son efficacité
• Se conformer aux règlements et politiques internes
• Encourager une politique de tolérance zéro envers la violence au travail
• Posséder des connaissances de base en sécurité de l’information et en protection des données (ex. : comment protéger et manipuler les données)

Senior Software Developer - LLM

Job description:

• System Integration Development
• Interface with LLM development teams to integrate SDKs into in‑vehicle systems
• Develop voice interaction middleware for coordinating ASR (Automatic Speech Recognition), NLU (Natural Language Understanding), and TTS (Text‑to‑Speech) pipelines
• Design hybrid solution to integrate cloud LLM and edge LLM, take care of the arbitration between cloud and edge
• Performance Optimization
• Optimize end‑to‑end response latency
• CPU and memory footprint control and cold‑start acceleration

Requirement

• Working experience: 3 years and above
• Proficient in C++11/14 embedded development
• Hands‑on project experience with Linux/Android Automotive OS
• Understanding of LLM, Agent, RAG and corresponding inference framework/runtime
• Familiar with Inter‑Thread Communication and Inter‑Process Communication

EQUAL OPPORTUNITY EMPLOYER

Cerence is firmly committed to Equal Employment Opportunity (EEO) and to compliance with all federal, state and local laws that prohibit employment discrimination on the basis of age, race, color, gender, gender identity, gender expression, etc.

All prospective and current Employees need to remain vigilant when it comes to executing security policies in the workplace. This includes:

• Following workplace security protocols and training programs to familiarize with the ways to maintain a safe workplace.
• Following security procedures to report any suspicious activity.
• Having respect for corporate security procedures to allow those procedures to be effective.
• Adhering to company's compliance and regulations.
• Encouraging to follow a zero tolerance for workplace violence.
• Basic knowledge of information security and data privacy requirements (e.g., how to protect data & how to be handling this data).
• Demonstrative knowledge of information security through internal training programs.