ML/NLP Engineer for Real-Time Voice & Dialog Systems

NDA; United States; Remote; USD 180,000 - 240,000; Full time

Job summary

NDA ищет специалиста по разработке диалоговых систем и голосовых ассистентов. В задачу входит переход от графовых сценариев к управляемым диалогам на базе LLM, устранение задержек и галлюцинаций, настройка ASR на GigaAMv2 и интеграцию TTS/клонов голоса.

Необходимы навыки в PEFT/LoRA, QLoRA, streaming ASR, и глубокие знания PyTorch, Python и Hugging Face. Будет преимущество в опыте с gRPC, Kubernetes и графовыми/dialog движками.

Qualifications

• Уверенный опыт работы с LLM/SLM, few-shot learning, prompt engineering и BERT для классификации сценариев и интентов.

Responsibilities

• Переводить систему с графа сценариев и навыков на управляемый диалог на основе LLM.

Skills

LLM/SLM опыт

Few-shot обучение

Prompt-инженерия

BERT классификация

PEFT/LoRA/QLoRA

GigaAMv2 ASR

Streaming ASR

Python

PyTorch

Hugging Face

Go

gRPC

Kubernetes

TensorRT-LLM

ONNX Runtime

Tools

vLLM

TensorRT-LLM

Triton Inference Server

ONNX Runtime

Kubernetes

gRPC

Job description

NDA ищет специалиста по разработке диалоговых систем и голосовых ассистентов. В задачу входит переход от графовых сценариев к управляемым диалогам на базе LLM, устранение задержек и галлюцинаций, настройка ASR на GigaAMv2 и интеграцию TTS/клонов голоса.

Необходимы навыки в PEFT/LoRA, QLoRA, streaming ASR, и глубокие знания PyTorch, Python и Hugging Face. Будет преимущество в опыте с gRPC, Kubernetes и графовыми/dialog движками.