MLOps Engineer, LLM Performance (Kernels, Profiling, Serving) / Infraestrutura de LLMs

Mercor; Brasil; Hybride; BRL 180 000 - 240 000; Plein temps

Avantages offerts par ce poste

Remote work

Résumé du poste

Mercor, plataforma que conecta especialistas a laboratórios de IA, oferece vaga remota e em tempo integral para engenheiros de MLOps e sistemas de ML, com foco em infraestrutura de grandes modelos de linguagem. A posição envolve criar e avaliar soluções de ML para treinar modelos de ponta, orientar equipes de pesquisa e engenharia, e colaborar para manter dados de treinamento consistentes.

É exigida experiência prática com JAX, XLA ou TPUs; trabalho 100% remoto, com 40 horas semanais em dias

Qualifications

• Experiência prática em infraestrutura de ML para grandes modelos de linguagem.
• Conhecimentos de kernel programming, profiling e serving de inferência de alto throughput.
• Capacidade de depurar cargas distribuídas em sistemas ML.

Responsabilités

• Criar tarefas desafiadoras de kernels, profiling e serving de inferência.
• Orientar equipes de pesquisa e engenharia a fechar lacunas em ML e infraestrutura de treinamento.
• Avaliar soluções de ML com feedback técnico escrito de alta qualidade.

Connaissances

Kernel programming

Profiling & tracing

Distributed workload debugging

High-throughput inference serving

JAX/XLA/TPUs experience

Outils

JAX

XLA

TPUs

Description du poste

Oportunidade remota e em tempo integral para engenheiros de MLOps e sistemas de ML! Esta vaga é oferecida pela Mercor, plataforma que conecta especialistas a laboratórios de IA que treinam modelos de ponta. A equipe de GenAI de um laboratório líder em IA busca engenheiros de MLOps e sistemas de ML com experiência prática em infraestrutura de grandes modelos de linguagem, em ao menos uma de quatro frentes: programação de kernels para aceleradores, profiling e análise de traces, depuração de cargas distribuídas e aceleradas, e serving de inferência de alto throughput. Experiência com JAX, XLA ou TPUs é especialmente valorizada. O trabalho envolve criar e avaliar tarefas e soluções de sistemas de ML para gerar dados de treinamento de alta qualidade para modelos de IA de ponta. A vaga é 100% remota e aberta a candidatos do mundo todo. Conforme o país, a contratação é feita pela Cincinnatus LLC ou por um parceiro local de employer of record.

Principais atividades:

• Criar tarefas desafiadoras de kernels, profiling, depuração e serving de inferência, incluindo problemas adversariais que mostram onde os modelos falham em código para aceleradores (ex.: kernels Pallas em TPU), e escrever soluções precisas
• Orientar equipes de pesquisa e engenharia a fechar lacunas de conhecimento em sistemas de ML, compiladores e infraestrutura de treinamento
• Avaliar tarefas e soluções de sistemas de ML com feedback técnico escrito que resista a revisão de especialistas
• Desenvolver diretrizes e rubricas sobre otimização de kernels, interpretação de saídas de profiler, sistemas distribuídos e trade-offs de throughput e latência em serving
• Colaborar com outros especialistas para manter os dados de treinamento consistentes e precisos

ATENÇÃO à dedicação: são 40 horas semanais em tempo integral, em dias úteis, com exclusividade (o anúncio exige não ter outros vínculos ou conflitos).