Machine learning engineer for LLM and RAG systems

XpertDirect; United States; Remote; USD 140,000 - 200,000; Full time

Job summary

XpertDirect ищет старшего инженера по машинному обучению для работы над проектом с европейской B2B софт‑компанией, разрабатывающей AI‑решения для регуляторных и комплайенс‑процессов. Вы будете улучшать продакшн‑LLM‑помощника для навигации по регуляторной документации и извлечения действий.

Требуются 5+ лет опыта, сильный Python, опыт внедрения LLM‑приложений и знание RAG‑архитектур. Преимуществом будет опыт с pgvector, OpenSearch, Qdrant и AWS.

Qualifications

• 5+ лет профессионального опыта разработки ПО или ML
• Сильные навыки Python, в продакшн средах
• Доказанный опыт развертывания и оптимизации продакшн LLM
• Глубокое понимание Retrieval-Augmented Generation (RAG)
• Опыт работы с векторными БД и поиском: pgvector, OpenSearch, Qdrant
• Практические знания гибридного поиска, ранжирования и оптимизации поиска
• Опыт разработки методик оценки LLM‑приложений
• Опыт AWS
• Опыт интеграции hosted LLM APIs и разворачивания open-weight моделей
• Будет плюсом: PostgreSQL pgvector; Prompt engineering; observability; RegTech/финансы

Responsibilities

• Улучшать production LLM‑помощника для регуляторной/контрактной работы
• Извлекать релевантную информацию и выделять действия
• Разрабатывать и оптимизировать RAG‑архитектуры
• Обеспечивать интеграцию с AWS и hosted LLM API

Skills

5+ лет опыта разработки ПО/ML

Python в продакшн

Production LLM‑apps

RAG‑архитектуры

Гибридный поиск

Методологии оценки LLM

AWS

Hosted LLM APIs

RegTech/финансы/регуляторика

Tools

pgvector

OpenSearch

Qdrant

TypeScript

Job description

Описание:

We’re looking for an experienced Senior Machine Learning Engineer to join an exciting project with a European B2B software company developing AI‑powered solutions for regulatory and compliance workflows. You’ll work on improving a production LLM‑powered assistant designed to help compliance teams navigate complex regulatory and contractual documentation, extract relevant information and identify actionable obligations.

Задачи:

You’ll work on improving a production LLM‑powered assistant designed to help compliance teams navigate complex regulatory and contractual documentation, extract relevant information and identify actionable obligations.

Требования:

• 5+ years of professional software engineering or machine learning experience.
• Strong Python development skills, particularly in production environments.
• Proven experience building, deploying and optimising production LLM applications.
• Deep understanding of Retrieval‑Augmented Generation (RAG) architectures.
• Hands‑on experience with vector databases and search technologies such as pgvector, OpenSearch or Qdrant.
• Practical knowledge of hybrid search, reranking and retrieval optimisation.
• Experience designing evaluation methodologies for LLM‑based applications.
• Solid understanding of AWS cloud infrastructure.
• Experience integrating hosted LLM APIs and deploying at least one open‑weight language model.
• Будет плюсом: PostgreSQL and pgvector; Prompt engineering and context optimisation; LLM caching, batching and model routing; TypeScript; Production monitoring and observability; Experience with GDPR‑sensitive or confidential document workflows; Familiarity with RegTech, financial services or compliance‑related applications

Условия:

6 months (extension possible) Minimum 4 hours overlap with Central European Time (CET)