ML/LLM-инженер в агентных системах

NWIRE Professional; United States; Remoto; USD 83.000 - 165.000; Tempo pieno

Descrizione del lavoro

NWIRE Professional разрабатывает систему автоматизированного документооборота для крупной компании. Ваша роль — выбрать и внедрить языковую модель, организовать on-prem инференс и архитектуру агентного пайплайна для проверки и исправления документов по корпоративным шаблонам.

Кандидат должен владеть Python, Linux и Docker, иметь опыт реальных проектов с LLM и навыками настройки производительности GPU/контекста. Удаленная работа на 6 месяцев с возможностью продолжения.

Competenze

• Опыт от 3 лет в ML/NLP, из них не менее 1 года в продакшене с LLM.
• Опыт self-hosted инференса открытых моделей (vLLM, SGLang, TGI или аналоги); понимание влияния памяти GPU и контекста на производительность.
• Опыт построения LLM-агентов или пайплайнов с tool calling.
• Уверенный Python, Linux, Docker.

Mansioni

• Выбор открытой языковой модели и бенчмарк на контрольном наборе реальных документов.
• Развертывание и оптимизация инференса on-prem: vLLM / SGLang, квантование, длинный контекст.
• Проектирование агентного пайплайна: промпты, tool calling, разбиение задач между моделью и скриптами.
• Работа с DOCX: разбор и правка структуры, контроль верстки.

Conoscenze

Python

Linux

Docker

LLM

Tool calling

Strumenti

vLLM

SGLang

Go

Descrizione del lavoro

Описание

NWIRE разрабатывает систему автоматизированного документооборота для крупной компании. Языковая модель проверяет и исправляет документы п и корпоративным шаблонам (текст, таблицы, рисунки, формулы), сверяет данные между главами и собирает итоговый пакет. Интерфейс - плагин для Яндекс Трекера, серверная часть на Go, модель работает на GPU-сервере в контуре заказчика.

Задачи

• Выбор открытой языковой модели (Qwen, DeepSeek, GLM и др.) и бенчмарк на контрольном наборе реальных документов.
• Развертывание и оптимизация инференса on-prem: vLLM / SGLang, квантизация (FP8/INT4), длинный контекст, настройка под нагрузку.
• Проектирование агентного пайплайна: промпты, tool calling, разбиение задач между моделью и детерминированными скриптами.
• Работа с DOCX: разбор и правка структуры документа, связка с рендерингом (LibreOffice) для контроля верстки.
• Метрики качества и регрессионные тесты: доля найденных ошибок, отсутствие ложных исправлений.
• Сопровождение опытно-промышленной эксплуатации, доработка по обратной связи пользователей.

Требования

• От 3 лет в ML/NLP, из них от 1 года - практическая работа с LLM в продакшене.
• Опыт self-hosted инференса открытых моделей (vLLM, SGLang, TGI или аналоги); понимание влияния памяти GPU, KV-кэша и контекста на производительность.
• Опыт построения LLM-агентов или пайплайнов с tool calling.
• Уверенный Python, Linux, Docker.
• Умение выстроить оценку качества модели на собственных данных.

Условия

Проект на 6 месяцев с возможностью продолжения (поддержка, развитие, тиражирование)

Удаленный формат работы

Оформление: ИП или самозанятость по ставке в час

Вознаграждение - ежемесячно по факту затраченного времени