ml engineer for llm performance optimization

NDA; United States; Presencial; USD 150.000 - 230.000; Jornada completa

Ventajas ofrecidas por este puesto de trabajo

Leave + wellness days

Training coverage

Health stipend

Workspace allowance

Descripción de la vacante

HireHi в США ищет инженера ML/LMM для руководства техническим направлением и эксплуатации крупной модели ИИ, создающей эмоционально интерактивные связи между людьми и искусственными персонажами.

Вы будете оптимизировать инференс LLM объемом 1 трлн параметров, работать над распределенным обучением и инференсом на кластерах GPU, обеспечивая техническое лидерство для NLP/CV команд.

Formación

• Глубокий практический опыт оптимизации inference LLM
• Опыт распределенного инференса и обучения: MoE, параллелизм
• Опыт работы с KV cache, attention kernels, batching и profiling на GPU
• Опыт обучения и тонкой настройки LLM, включая RLHF и DPO
• Доказываемое техническое лидерство и при этом код на PyTorch и transformers
• Свободно или продвинуто владение английским или русским языками
• Будет плюсом CUDA/Triton, CV, мультимодальные LLMs, вклад в open-source, MSc/PhD

Responsabilidades

• Необходимо руководство производительностью и направление разработки LLM
• Оптимизация инференса моделей 1 трлн параметров на распределенных GPU
• Обеспечение технического лидерства NLP/CV инженерам через экспертизу

Conocimientos

LLM optimization

Distributed inference

GPU profiling

Model training & fine-tuning

PyTorch & Transformers

English or Russian

CUDA/Triton (plus)

CV background

Multimodal LLMs

Open-source contributions

MSc/PhD

Educación

MSc/PhD

Herramientas

SGLang

vLLM

TensorRT-LLM

Descripción del empleo

Описание

The team is building a platform for AI-lationships, emotionally intelligent connections between people and AI characters, using open-source models and real AI agency rather than ChatGPT wrappers.

Задачи

• Own the performance and technical direction of LLMs
• Optimize 1T+ parameter models to run faster and more cheaply on distributed GPUs
• Provide technical leadership to NLP/CV engineers through expertise

Требования

• Deep hands-on experience optimizing LLM inference with SGLang, vLLM, or TensorRT-LLM
• Experience with distributed inference and training, including MoE, tensor/expert/pipeline parallelism, and multi-node clusters
• Experience with KV cache, attention kernels, batching, quantization, and GPU profiling
• Experience training and fine-tuning LLMs, including post-training methods such as RLHF and DPO
• Proven technical leadership while continuing to write code PyTorch and transformers
• Advanced English or Russian
• Будет плюсом: CUDA/Triton, CV background, multimodal LLMs, open-source contributions, MSc/PhD

Условия

• 28 Days of leave plus 7 wellness days
• 50% Training coverage
• Health support up to $1000/yr
• $1000 Every 3 years for workspace