Freelance AI Engineer: On-Prem LLMs & RAG Systems

NDA; United States; Remote; USD 83.000 - 179.000; Vollzeit

Zusammenfassung

NDA ищет фрилансера для разработки и поддержки AI-решений на self-hosted инфраструктуре. Вы будете работать над RAG-системами, агентами и пайплайнами, включая настройку моделей, векторных БД и интеграцию с заказчиком.

Требуется опыт работы с LangChain, Docker/Kubernetes, а также умение запускать Open Source LLM в продакшене и взаимодействовать с клиентскими командами по требованиям и развёртыванию.

Qualifikationen

• 4+ года профессиональной разработки на Python.
• В наличии как минимум одна AI/LLM система в продакшене.
• Опыт работы с LangChain и/или LangGraph.
• Опыт работы с векторными БД (pgvector, Qdrant).
• Опыт работы с self-hosted LLMs (vLLM, Ollama, TGI).
• Docker и базовые навыки Kubernetes.
• Английский не ниже B2 и пересечения по времени с UTC+0…UTC+4.
• Регистрация как самозанятый/собственный бизнес и возможность выдавать счета.

Aufgaben

• Разработка и внедрение production систем RAG и AI агентов.
• Запуск и настройка open-source LLM на self-hosted инфраструктуре (выбор модели, развёртывание, оптимизация).
• Построение retrieval-пайплайнов: парсинг документов, чейнинг, эмбеддинги, гибридный поиск, reranking.
• Повышение надёжности систем через оценку, guardrails, мониторинг и контроль «hallucination».
• Развертывание систем на Kubernetes совместно с DevOps-инженерами.
• Работа с клиентскими командами от сбора требований до продакшн-вывода.

Kenntnisse

Python

AI/LLM systems

LangChain/LangGraph

Vector databases

Self-hosted LLMs

Docker

Kubernetes

English B2+

Freelance / self-employed

On-prem private cloud

TypeScript / Node.js / React or Java (

Tools

LangChain

LangGraph

pgvector

Qdrant

vLLM

Ollama

TGI

Docker

Kubernetes

Jobbeschreibung

NDA ищет фрилансера для разработки и поддержки AI-решений на self-hosted инфраструктуре. Вы будете работать над RAG-системами, агентами и пайплайнами, включая настройку моделей, векторных БД и интеграцию с заказчиком.

Требуется опыт работы с LangChain, Docker/Kubernetes, а также умение запускать Open Source LLM в продакшене и взаимодействовать с клиентскими командами по требованиям и развёртыванию.