Production AI Engineer — LLM Apps & Observability

HireHi; United States; Remote; USD 120,000 - 180,000; Full time

Job summary

HireHi ищет инженера backend с сильной экспертизой в Python и разработке продакшн‑AI‑сервисов. Ваша задача — строить и поддерживать LLM‑потоки, управлять контекстом и вызовами инструментов, а также проектировать надёжные контракты API и выводов ИИ.

Требуется опыт в интеграции моделей через Azure OpenAI/OpenAI/Bedrock, продвинутая работа с промптами и безопасностью. Работа в быстром темпе, коллаборация с инженерами и PO для превращения задач в готовые к продакшну решения.

Qualifications

• Сильные навыки Python и бэкенда для продакшн-услуг.
• Доказанный опыт разработки и развёртывания LLM‑приложений в продуктиве.
• Глубокое понимание prompt‑engineering, структурированных выходов и контекст‑менеджмента.
• Опыт интеграции foundation models через Azure OpenAI, OpenAI или Bedrock.
• Опыт проектирования API, тестирования и эксплуатации; видение наблюдаемости.
• Опыт работы с безопасностью ИИ, валидацией и обработкой отклонений/fallback.
• Практический подход к messy real-world задачам с чистыми решениями.

Responsibilities

• Строить и эксплуатировать production-grade AI‑сервисы и бэкенд‑приложения на Python.
• Проектировать и внедрять LLM‑рабочие процессы: подсказки, контекст, вызов инструментов.
• Определять надёжные контракты API и выводов ИИ.
• Тестировать, оценивать и улучшать сервисы с помощью автоматизированных тестов и итераций подсказок.
• Реализовывать безопасность и надёжность: валидаторы, guardrails, fallbacks и обработку ошибок.
• Мониторить продакшн‑системы через логи, метрики и инструменты наблюдаемости.
• Сотрудничать с инженерами, PO и доменными стейкхолдерами для перевода задач в готовые к prod решения.
• Постоянно улучшать систему через обновления моделей и оптимизацию операций.

Skills

Python

Backend engineering

LLM-powered apps

Prompt engineering

API design

Observability

AI safety

MLOps

Java/Kotlin

Tools

Azure OpenAI

OpenAI

Bedrock

LangChain

MCP

RAG

Graph databases

Infrastructure as Code

Streamlit

Jupyter notebooks

Job description

HireHi ищет инженера backend с сильной экспертизой в Python и разработке продакшн‑AI‑сервисов. Ваша задача — строить и поддерживать LLM‑потоки, управлять контекстом и вызовами инструментов, а также проектировать надёжные контракты API и выводов ИИ.

Требуется опыт в интеграции моделей через Azure OpenAI/OpenAI/Bedrock, продвинутая работа с промптами и безопасностью. Работа в быстром темпе, коллаборация с инженерами и PO для превращения задач в готовые к продакшну решения.