Senior Backend Engineer for Scalable ML Platform

Coveo; Montreal (administrative region); On-site; CAD 110,000 - 150,000; Full time

Job summary

Coveo recrute un développeur.se sénior.e pour bâtir et faire évoluer une plateforme IA à grande échelle. Vous participerez au déploiement de modèles, y compris des grands modèles de langage, et assurerez la fiabilité d’un système traitant des millions de requêtes quotidiennement.

Vous travaillerez avec des data scientists et des ingénieurs pour optimiser les pipelines ML et les services dorsaux, dans un cadre infonuagique robuste et évolutif.

Qualifications

• Plus de 5 ans d’expérience en développement d’applications dorsales dans un environnement infonuagique.
• Bonne compréhension des systèmes distribués et de la conception d’applications évolutives.
• Capacité à résoudre des problèmes et à diagnostiquer des systèmes avec accompagnement lorsque nécessaire.
• Aisance à apprendre de nouveaux outils, technologies et meilleures pratiques.

Responsibilities

• Contribuer à l’ensemble du cycle de développement: programmation, tests et déploiement.
• Analyser et améliorer l’observabilité et la fiabilité de notre plateforme IA.
• Maintenir des services traitant des millions de requêtes et d’appels aux grands modèles de langage.
• Collaborer avec les scientifiques et ingénieurs pour intégrer des applications agentiques en production.
• Évoluer la plateforme IA pour soutenir la montée en charge et les flux de travail agentiques.

Skills

Python

Java/Spring

Distributed systems

Problem solving

Learning agility

Observability

Tools

Terraform

AWS Bedrock

OpenSearch Serverless

Vector databases

LiteLLM

Inference gateways

Job description

Coveo recrute un développeur.se sénior.e pour bâtir et faire évoluer une plateforme IA à grande échelle. Vous participerez au déploiement de modèles, y compris des grands modèles de langage, et assurerez la fiabilité d’un système traitant des millions de requêtes quotidiennement.

Vous travaillerez avec des data scientists et des ingénieurs pour optimiser les pipelines ML et les services dorsaux, dans un cadre infonuagique robuste et évolutif.