LLM engineer for AI services

Бюро 1440; United States; Hybrid; USD 90,000 - 130,000; Full time

Job summary

Бюро 1440 ищет инженера backend для поддержки AI-сервисов и разработки интеграций. В должности будет анализ пользовательских обращений, диагностика проблем и сопровождение решений до полного закрытия инцидентов. Взаимодействие с поставщиками моделей и сервисов, создание и развитие AI-бота с архитектурой RAG.

Требуется 3 года коммерческого опыта на Python, приветствуется опыт в ML/AI и знание Go. Приоритет — FastAPI, asyncio, PostgreSQL, Redis.

Qualifications

• Опыт разработки на Python не менее 3 лет, часть из которого в ML/AI
• Умение Go для сервисов и интеграций
• Опыт поддержки или сервисных процессов

Responsibilities

• Разработка backend на Python (FastAPI, asyncio)
• Разработка Go сервисов для обработки обращений
• Настройка и поддержка LLM-сервисов; интеграция с внешними системами
• Сбор и анализ тикетов, улучшение сервиса

Skills

Python

Go

Asyncio

REST API design

PostgreSQL

Redis

Docker

Kubernetes

Prompt engineering

Tools

FastAPI

Jira

PostgreSQL

Docker

Kubernetes

Redis

Job description

Задачи

Обеспечением технической поддержки AI-сервисов: разбором пользовательских обращений, диагностикой причин проблем, подготовкой и сопровождением ответов до полного решения Взаимодействием с поставщиками AI-моделей и сервисов: оформлением заявок, контролем выполнения, сбором обратной связи и улучшением качества сервиса на основе инцидентов Разработкой автоматических ответов и сценариев реагирования для типовых и повторяющихся запросов пользователей Сбором тикетов из Jira, сервис-десков и мессенджеров, и их структурированием в единые потоки задач Созданием и развитием AI-бота с архитектурой RAG: настройкой системы ретривала, актуализацией базы знаний, формированием и контролем качества генерируемых ответов Разработкой и поддержкой backend-сервисов на Python (FastAPI, asyncio): проектированием API, обработкой запросов, интеграцией с внешними системами и провайдерами Разработкой высоконагруженных сервисов и интеграций на Go для сбора и обработки пользовательских обращений Написанием автоматизированных тестов и проведением оценки качества ответов AI-бота и автоматических сценариев

Требования

Коммерческий опыт разработки на Python от 3 лет, из которых не менее 1 года — в автоматизации процессов, ML/AI-проектах или интеграционных решениях Уверенное владение вторым языком программирования (предпочтительно Go) для разработки сервисов и интеграций Практический опыт работы в технической поддержке или сервисных процессах: коммуникация с пользователями, обработка обращений, сопровождение задач до закрытия Навыки взаимодействия с внешними поставщиками услуг: формулирование требований и заявок, контроль выполнения, передача обратной связи от пользователей Умение структурировать входящие потоки информации и выстраивать процессы обработки тикетов и запросов Глубокое понимание принципов работы LLM: токенизация, context window, temperature, structured output, prompt engineering Опыт работы с фреймворком FastAPI и асинхронным программированием (asyncio): проектирование REST API, middleware, обработка ошибок Опыт эксплуатации и оптимизации баз данных PostgreSQL и Redis Базовые знания в области контейнеризации и оркестрации (Docker, Kubernetes), понимание архитектуры кластерных сред Опыт разработки систем оценки (evals) и автоматизированных тестов для LLM-приложений

Условия

Возможность выбора формата работы (гибрид/удаленка)