AI engineer for enterprise LLM and RAG solutions

NDA; United States; Teletrabalho; USD 83 000 - 179 000; Tempo integral

Resumo da oferta

NDA ищет фрилансера для разработки и поддержки AI-решений на self-hosted инфраструктуре. Вы будете работать над RAG-системами, агентами и пайплайнами, включая настройку моделей, векторных БД и интеграцию с заказчиком.

Требуется опыт работы с LangChain, Docker/Kubernetes, а также умение запускать Open Source LLM в продакшене и взаимодействовать с клиентскими командами по требованиям и развёртыванию.

Qualificações

• 4+ года профессиональной разработки на Python.
• В наличии как минимум одна AI/LLM система в продакшене.
• Опыт работы с LangChain и/или LangGraph.
• Опыт работы с векторными БД (pgvector, Qdrant).
• Опыт работы с self-hosted LLMs (vLLM, Ollama, TGI).
• Docker и базовые навыки Kubernetes.
• Английский не ниже B2 и пересечения по времени с UTC+0…UTC+4.
• Регистрация как самозанятый/собственный бизнес и возможность выдавать счета.

Responsabilidades

• Разработка и внедрение production систем RAG и AI агентов.
• Запуск и настройка open-source LLM на self-hosted инфраструктуре (выбор модели, развёртывание, оптимизация).
• Построение retrieval-пайплайнов: парсинг документов, чейнинг, эмбеддинги, гибридный поиск, reranking.
• Повышение надёжности систем через оценку, guardrails, мониторинг и контроль «hallucination».
• Развертывание систем на Kubernetes совместно с DevOps-инженерами.
• Работа с клиентскими командами от сбора требований до продакшн-вывода.

Conhecimentos

Python

AI/LLM systems

LangChain/LangGraph

Vector databases

Self-hosted LLMs

Docker

Kubernetes

English B2+

Freelance / self-employed

On-prem private cloud

TypeScript / Node.js / React or Java (

Ferramentas

LangChain

LangGraph

pgvector

Qdrant

vLLM

Ollama

TGI

Docker

Kubernetes

Descrição da oferta de emprego

Описание:

The company builds AI solutions for enterprise clients. Its systems run on self-hosted infrastructure, including open-source LLMs, on-premises servers, and private cloud.

Задачи:

• Design and build production RAG systems and AI agents
• Run open-source LLMs on self-hosted infrastructure, from model selection to serving and optimization
• Build retrieval pipelines for document parsing, chunking, embeddings, hybrid search, and reranking
• Improve system reliability through evaluation, guardrails, monitoring, and hallucination control
• Deploy systems on Kubernetes with DevOps engineers
• Work directly with client teams from requirements gathering to production rollout

Требования:

• 4+ Years of professional Python development
• At least one AI/LLM system in production
• Hands-on experience with LangChain and/or LangGraph
• Experience with vector databases such as pgvector or Qdrant
• Experience with self-hosted LLMs such as vLLM, Ollama, or TGI
• Docker and basic Kubernetes skills
• English at B2 level or higher
• Working hours overlapping with UTC+0 to UTC+4
• Registered as self-employed or with your own company and able to issue invoices
• Будет плюсом: RAG evaluation (RAGAS, Langfuse, or similar), TypeScript / Node.js / React or Java, on-premises or private cloud deployments

Условия:

• Freelance, project-based work
• Long-term collaboration opportunities
• Challenging AI projects that support professional expertise and technical skills development
• Opportunities to work with modern AI technologies and solve real-world engineering problems