LLM-разработчик для AI-агентов

АйСи Инвест; United States; Remote; USD 120.000 - 210.000; Vollzeit

Benefits dieser Stelle

Удалённый формат работы

Аккредитованная ИТ компания

График 5/2, 9:00–18:00 по МСК

Интересные задачи и обучение

Работа в крупной развивающейся公司

Zusammenfassung

АйСИ ГРУПП приглашает опытного LLM‑разработчика для создания и вывода на прод агентов на базе LLM. Вы будете проектировать архитектуру пайплайнов, подбирать модели эмбеддингов и настраивать маршрутизацию между инструментами, базами данных и сервисами. Работа удалённая, с акцентом на production‑качественный код.

Требуется глубокий опыт Python, FastAPI и разработки AI‑агентов с LangGraph/LangChain. Ваша задача — поддерживать и развивать существующие решения, включая мониторинг качества и

Qualifikationen

• Практический опыт разработки и внедрения LLM‑приложений в production.

Aufgaben

• Разрабатывать агентов на базе LLM: multi-turn диалоги, планирование и вызов инструментов.
• Писать коннекторы к внутренним системам: Jira, GitLab, CRM, телефония, учетные системы, базы знаний.
• Строить RAG‑пайплайны: чанкинг, эмбеддинги, индексирование, гибридный поиск, реранкинг.
• Заменять старые эвристики на LLM‑пайплайны с function calling и structured output.
• Подбирать и настраивать эмбеддинг‑модели (e5, bge, multilingual-e5) под данные.
• Проектировать маршрутизацию задач между инструментами и моделями для экономии токенов.
• Развёртывать агентов в прод: FastAPI‑сервисы, Docker, CI/CD, логирование и трассировку.
• Анализировать и исправлять ошибки: контекст и стороны сбоя.
• Донастраивать уже выпущенных агентов — постоянная часть работы.

Kenntnisse

Python

Async programming

FastAPI

ООП и SOLID

Prompt engineering

Context engineering

SQL

PostgreSQL

Tools

LangGraph

LangChain

LlamaIndex

Haystack

pgvector

Qdrant

Milvus

FAISS

Docker

Git

CI/CD

Langfuse

DeepEval

MCP servers

vLLM

Jobbeschreibung

Описание: АЙСИ ГРУПП - холдинг, развивающий торговые сети и телекоммуникационную инфраструктуру в Крыму и Новороссии. Компании холдинга занимают ключевые позиции на рынках присутствия и формируют современную среду для жизни и бизнеса в регионах. В аккредитованную ИТ компанию Холдинга приглашаем кандидатов на позицию LLM-разработчик

Задачи:

• Разрабатывать агентов на базе LLM: multi-turn диалоги, планирование, вызов инструментов, оркестрация моделей внутри пайплайна;
• Писать коннекторы к внутренним системам: Jira, GitLab, CRM, телефония, учетные системы, базы знаний;
• Строить RAG-пайплайны: чанкинг, эмбеддинги, индексирование, гибридный поиск (BM25 + dense), реранкинг, оценка качества retrieval;
• Заменять старые эвристики и классификаторы на LLM-пайплайны с function calling и structured output;
• Подбирать и настраивать эмбеддинг-модели (e5, bge, multilingual-e5) под наши данные и мерить, что стало лучше;
• Проектировать маршрутизацию: какую задачу каким инструментом и какой моделью решать, чтобы не переплачивать за токены;
• Выносить агентов в прод: FastAPI-сервисы, Docker, CI/CD, логирование и трассировка каждого вызова;
• Разбирать боевые ошибки: почему агент ответил не то, где потерялся контекст, на чьей стороне сбой;
• Донастраивать уже выпущенных агентов - это постоянная часть работы, а не разовая.

Требования:

• Имеете практический опыт разработки и внедрения LLM-приложений в production, самостоятельно создавали RAG-системы и/или AI-агентов и понимаете особенности их эксплуатации;
• Уверенно владеете Python, знаете асинхронное программирование, FastAPI, принципы ООП и SOLID, умеете писать чистый и поддерживаемый код;
• Имеете опыт работы хотя бы с одним из фреймворков для разработки AI-агентов: LangGraph, LangChain, LlamaIndex или Haystack;
• Владеете prompt engineering и context engineering на практическом уровне: умеете работать с few-shot prompting, chain-of-thought и structured output;
• Имеете опыт работы с векторными базами данных (pgvector, Qdrant, Milvus, FAISS), понимаете принципы гибридного поиска и знаете, в каких случаях необходимо применять реранкинг;
• Уверенно работаете с SQL и PostgreSQL;
• Имеете опыт работы с Docker, Git, CI/CD и развёртывания сервисов в production. Понимаете ограничения современных языковых моделей: особенности контекстного окна, работу с длинным контекстом и узкие места inference;
• Знакомы с инструментами мониторинга, трассировки и оценки качества LLM-приложений: Langfuse, DeepEval или аналогичными решениями;
• Имеете опыт работы с MCP-серверами;
• Знакомы с vLLM или другими инструментами для self-hosted инференса. Будет плюсом: Будет плюсом опыт деплоя GPU-сервисов

Условия:

• Удалённый формат работы;
• Оформление в Аккредитованную ИТ компанию;
• График работы 5\2, с 9:00 до 18:00 по МСК;
• Размер заработной платы обсуждается индивидуально;
• Официальное трудоустройство, согласно ТК РФ;
• Интересные задачи, корпоративное обучение в рамках должности;
• Работа в крупной развивающейся компании.