Inżynier AI: lokalne modele, PyTorch & GPU

Arcabit; Baxter (TN); On-site; USD 120,000 - 180,000; Full time

Job summary

Arcabit poszukuje specjalisty AI z praktycznym doświadczeniem w uruchamianiu modeli lokalnie, dostosowywaniu ich do zadań i integracji z istniejącym oprogramowaniem. Będziesz pracować z wydajnymi stacjami NVIDIA DGX Spark i rozwijać rozwiązania AI w kontekście cyberbezpieczeństwa.

Wymagane są zaawansowana znajomość Pythona, PyTorch i Hugging Face, umiejętność pracy z Linuxem, Git i Docker, oraz znajomość GPU, VRAM, kwantyzacji i inferencji. Dodatkowe atuty to CUDA, ONNX, TensorRT i AML.

Qualifications

• Bardzo dobra znajomość Pythona i środowiska Linux.
• Praktyczne doświadczenie z PyTorch i ekosystemem Hugging Face.
• Umiejętność samodzielnego uruchamiania i dostosowywania modeli lokalnie, bez polegania na API zewnętrznych.

Responsibilities

• Uruchamianie, testowanie, benchmarkowanie i optymalizacja modeli AI na GPU.
• Tworzenie rozwiązań z wykorzystaniem LLM, embeddingów, RAG, reranking i agentów AI.
• Dostrajanie modeli (LoRA/QLoRA), kwantyzacja i optymalizacja inferencji lokalnej.

Skills

Python

PyTorch

Hugging Face

Linux

Git

Docker

CUDA

Tools

CUDA

ONNX

TensorRT

llama.cpp

vLLM

PEFT

Job description

Arcabit poszukuje specjalisty AI z praktycznym doświadczeniem w uruchamianiu modeli lokalnie, dostosowywaniu ich do zadań i integracji z istniejącym oprogramowaniem. Będziesz pracować z wydajnymi stacjami NVIDIA DGX Spark i rozwijać rozwiązania AI w kontekście cyberbezpieczeństwa.

Wymagane są zaawansowana znajomość Pythona, PyTorch i Hugging Face, umiejętność pracy z Linuxem, Git i Docker, oraz znajomość GPU, VRAM, kwantyzacji i inferencji. Dodatkowe atuty to CUDA, ONNX, TensorRT i AML.