ai engineer for production AI applications

HireHi; United States; Remote; USD 120,000 - 180,000; Full time

Job summary

HireHi ищет инженера backend с сильной экспертизой в Python и разработке продакшн‑AI‑сервисов. Ваша задача — строить и поддерживать LLM‑потоки, управлять контекстом и вызовами инструментов, а также проектировать надёжные контракты API и выводов ИИ.

Требуется опыт в интеграции моделей через Azure OpenAI/OpenAI/Bedrock, продвинутая работа с промптами и безопасностью. Работа в быстром темпе, коллаборация с инженерами и PO для превращения задач в готовые к продакшну решения.

Qualifications

• Сильные навыки Python и бэкенда для продакшн-услуг.
• Доказанный опыт разработки и развёртывания LLM‑приложений в продуктиве.
• Глубокое понимание prompt‑engineering, структурированных выходов и контекст‑менеджмента.
• Опыт интеграции foundation models через Azure OpenAI, OpenAI или Bedrock.
• Опыт проектирования API, тестирования и эксплуатации; видение наблюдаемости.
• Опыт работы с безопасностью ИИ, валидацией и обработкой отклонений/fallback.
• Практический подход к messy real-world задачам с чистыми решениями.

Responsibilities

• Строить и эксплуатировать production-grade AI‑сервисы и бэкенд‑приложения на Python.
• Проектировать и внедрять LLM‑рабочие процессы: подсказки, контекст, вызов инструментов.
• Определять надёжные контракты API и выводов ИИ.
• Тестировать, оценивать и улучшать сервисы с помощью автоматизированных тестов и итераций подсказок.
• Реализовывать безопасность и надёжность: валидаторы, guardrails, fallbacks и обработку ошибок.
• Мониторить продакшн‑системы через логи, метрики и инструменты наблюдаемости.
• Сотрудничать с инженерами, PO и доменными стейкхолдерами для перевода задач в готовые к prod решения.
• Постоянно улучшать систему через обновления моделей и оптимизацию операций.

Skills

Python

Backend engineering

LLM-powered apps

Prompt engineering

API design

Observability

AI safety

MLOps

Java/Kotlin

Tools

Azure OpenAI

OpenAI

Bedrock

LangChain

MCP

RAG

Graph databases

Infrastructure as Code

Streamlit

Jupyter notebooks

Job description

Описание:

Intellias provides technology services and develops digital products and solutions. Its teams create features and modernize services and products for millions of customers.

Задачи:

• Build and operate production-grade AI services and backend applications in Python
• Design and implement LLM-powered workflows, including prompt design, context management, structured outputs, and tool calling
• Define robust contracts for APIs and AI outputs
• Test, evaluate, and improve AI services through automated testing, prompt iteration, and measurable evaluation approaches
• Implement safety and reliability controls such as validation, guardrails, fallbacks, and error handling
• Monitor and improve production systems using logs, metrics, traces, and AI observability tooling
• Work closely with engineers, product owners, and domain stakeholders to turn ambiguous use cases into production-ready solutions
• Continuously improve systems through model upgrades, prompt iteration, and operational optimisation

Требования:

• Strong Python and backend engineering skills for building production-grade services and APIs
• Proven experience developing and shipping LLM-powered applications in production
• Strong understanding of prompt engineering, structured outputs, context management, and tool calling
• Experience integrating foundation models and LLM platforms such as Azure OpenAI, OpenAI, or Bedrock
• Strong experience in API design, testing, deployment discipline, observability, evaluation, and failure handling
• Solid practical understanding of AI safety, reliability, and evaluation, including guardrails, fallback patterns, and output validation
• A pragmatic approach to solving messy real-world problems with clean, maintainable systems
• Curious, delivery-focused, and comfortable working in a fast-moving technical landscape
• Nice to have: Experience designing and operating LLM systems with orchestration frameworks such as LangChain, MCP, RAG, and Graph databases
• familiarity with Infrastructure as Code and performance testing for production APIs
• experience working with Java or Kotlin
• ability to prototype and experiment quickly using Streamlit and Jupyter notebooks
• background in applied NLP tasks such as classification or PII detection

Условия:

• Poland and Ukraine
• Equal opportunity employment with consideration for applicants without discrimination based on protected characteristics.