LLM engineer

Бюро 1440; United States; Hybrid; USD 120,000 - 180,000; Full time

Benefits offered by this job

Гибридная/удаленная работа

Job summary

Бюро 1440 ищет опытного backend-разработчика для поддержки и развития AI‑сервисов. В задачи входит работа с Python (FastAPI) и Go, проектирование REST API, интеграции и тестирование, а также участие в разработке архитектуры RAG и систем обработки тикетов.

Требуется 5+ лет опыта разработки на Python, опыт в ML/AI‑проектах, знание PostgreSQL и Redis, а также навыки Docker/Kubernetes. Гибридный/удалённый формат работы доступен.

Qualifications

• Коммерческий опыт разработки на Python от 5 лет, из которых не менее 1 года — в автоматизации процессов, ML/AI-проектах или интеграционных решениях
• Уверенное владение вторым языком программирования (предпочтительно Go) для разработки сервисов и интеграций
• Практический опыт работы в технической поддержке или сервисных процессах: коммуникация с пользователями, обработка обращений, сопровождение задач до закрытия
• Навыки взаимодействия с внешними поставщиками услуг: формулирование требований и заявок, контроль выполнения, передача обратной связи от пользователей
• Умение структурировать входящие потоки информации и выстраивать процессы обработки тикетов и запросов
• Глубокое понимание принципов работы LLM: токенизация, context window, temperature, structured output, prompt engineering
• Опыт работы с фреймворком FastAPI и асинхронным программированием (asyncio): проектирование REST API, middleware, обработка ошибок
• Опыт эксплуатации и оптимизации баз данных PostgreSQL и Redis
• Базовые знания в области контейнеризации и оркестрации (Docker, Kubernetes), понимание архитектуры кластерных сред
• Опыт разработки систем оценки (evals) и автоматизированных тестов для LLM-приложений

Responsibilities

• Обеспечение технической поддержки AI-сервисов: разбор обращений, диагностика проблем, сопровождение ответов
• Взаимодействие с поставщиками AI-моделей: заявок, контроль, сбор обратной связи
• Разработка автоматических ответов и сценариев реагирования для типовых запросов
• Сбор тикетов из Jira, сервис-десков и мессенджеров и их структурирование
• Создание и развитие AI-бота с архитектурой RAG: настройка ретривала, база знаний, качество ответов
• Разработка и поддержка backend-сервисов на Python (FastAPI, asyncio): проектирование API, интеграция с внешними системами
• Разработка высоконагруженных сервисов и интеграций на Go для сбора и обработки обращений
• Написание автоматизированных тестов и оценка качества ответов AI-бота и сценариев

Skills

Python

Go

FastAPI

Asyncio

LLM basics

PostgreSQL

Redis

Docker

Kubernetes

Testing

Tools

Jira

Job description

Описание: Описания нет

Задачи

• Обеспечением технической поддержки AI-сервисов: разбором пользовательских обращений, диагностикой причин проблем, подготовкой и сопровождением ответов до полного решения
• Взаимодействием с поставщиками AI-моделей и сервисов: оформлением заявок, контролем выполнения, сбором обратной связи и улучшением качества сервиса на основе инцидентов
• Разработкой автоматических ответов и сценариев реагирования для типовых и повторяющихся запросов пользователей
• Сбором тикетов из Jira, сервис-десков и мессенджеров и их структурированием в единые потоки задач
• Созданием и развитием AI-бота с архитектурой RAG: настройкой системы ретривала, актуализацией базы знаний, формированием и контролем качества генерируемых ответов
• Разработкой и поддержкой backend-сервисов на Python (FastAPI, asyncio): проектированием API, обработкой запросов, интеграцией с внешними системами и провайдерами
• Разработкой высоконагруженных сервисов и интеграций на Go для сбора и обработки пользовательских обращений
• Написанием автоматизированных тестов и проведением оценки качества ответов AI-бота и автоматических сценариев

Требования

• Коммерческий опыт разработки на Python от 5 лет, из которых не менее 1 года — в автоматизации процессов, ML/AI-проектах или интеграционных решениях
• Уверенное владение вторым языком программирования (предпочтительно Go) для разработки сервисов и интеграций
• Практический опыт работы в технической поддержке или сервисных процессах: коммуникация с пользователями, обработка обращений, сопровождение задач до закрытия
• Навыки взаимодействия с внешними поставщиками услуг: формулирование требований и заявок, контроль выполнения, передача обратной связи от пользователей
• Умение структурировать входящие потоки информации и выстраивать процессы обработки тикетов и запросов
• Глубокое понимание принципов работы LLM: токенизация, context window, temperature, structured output, prompt engineering
• Опыт работы с фреймворком FastAPI и асинхронным программированием (asyncio): проектирование REST API, middleware, обработка ошибок
• Опыт эксплуатации и оптимизации баз данных PostgreSQL и Redis
• Базовые знания в области контейнеризации и оркестрации (Docker, Kubernetes), понимание архитектуры кластерных сред
• Опыт разработки систем оценки (evals) и автоматизированных тестов для LLM-приложений

Условия

• Возможность выбора формата работы (гибрид/удаленка)