ML-инженер LLM-агентов

NDA; United States; Remote; USD 16,000 - 23,000; Full time

Job summary

NDA ищет инженера для разработки LLM-агентов: проектирование архитектуры, интеграция LangChain/ LangGraph и использование внутреннего Python SDK.

Вы будете разворачивать агентов в production через Docker и Kubernetes, создавать пайплайны оценки качества и обеспечивать устойчивость сервиса с помощью мониторинга и тестирования.

Qualifications

• Понимать Python на глубоком уровне: GIL, асинхронность, дескрипторы, метаклассы.
• Опыт управления потоками и процессами, реализация очередей и семафоров.
• Разработка API на FastAPI и Pydantic v2, OAuth2/JWT и тестирование контрактов.
• Работа с системными вызовами, настройка cgroups/cpuset, мониторинг памяти.
• Опыт работы с эмбеддингами, Weaviate, ClickHouse, RAGAS и LlamaIndex.
• Навыки Docker, Kubernetes, Helm, Prometheus/Grafana и GitLab CI.

Responsibilities

• Проектировать архитектуру и развивать LLM-агентов с LangChain и LangGraph.
• Развертывать агентную инфраструктуру в production через Docker и Kubernetes.
• Разрабатывать тестовые сценарии, синтетические данные и метрики для точности.
• Интегрировать агентов с внутренними системами через REST/gRPC и Kafka/RabbitMQ.
• Оптимизировать инференс и управлять GPU-ресурсами.

Skills

Python

Async programming

Python internals

API design

OAuth2/JWT

Contract testing

Monitoring SLO/SLI

Concurrency

Linux system administration

Docker

Kubernetes

Prometheus/Grafana

GitLab CI

Weaviate

LlamaIndex

RAGAS

LangChain

LangGraph

Tools

Docker

Kubernetes

Prometheus/Grafana

GitLab CI

Weaviate

ClickHouse

LlamaIndex

RAGAS

LangChain

LangGraph

Job description

Описание

Описания нет

Задачи

• Проектировать архитектуру и разрабатывать LLM-агентов с использованием LangChain, LangGraph и внутреннего Python SDK
• Развёртывать и оркестрировать агентов в production-среде с Docker и Kubernetes
• Разрабатывать пайплайны оценки качества: проектировать тестовые сценарии, синтетические наборы данных и метрики для проверки точности и отсутствия галлюцинаций
• Интегрировать агентов с внутренними корпоративными системами через REST/gRPC API и брокеры сообщений Kafka/RabbitMQ
• Оптимизировать инференс моделей и управлять GPU-ресурсами для снижения задержек

Требования

• Глубоко понимать Python, GIL, асинхронную модель, дескрипторы, метаклассы и работу сборщика мусора
• Иметь практический опыт управления потоками и процессами, реализации очередей, семафоров, корректного завершения работы и защиты от каскадных сбоев
• Иметь опыт разработки высоконагруженных API на FastAPI и Pydantic v2, сложной авторизации OAuth2/JWT, контрактного тестирования и мониторинга SLO/SLI
• Уметь работать с системными вызовами, настраивать cgroups/cpuset, мониторить RSS/VMS, управлять файловыми дескрипторами и защищать сервисы от OOM Killer
• Иметь опыт тонкой настройки и дообучения моделей, работы с эмбеддингами, векторными СУБД Weaviate и ClickHouse, фреймворками RAGAS и LlamaIndex
• Владеть Linux, systemd, journald, Docker, Kubernetes, Helm, Prometheus/Grafana и GitLab CI

Условия

Почасовая ставка 1200р/час (200тыс/мес) Оформление по ИП