Platform Engineer z AI/LLM

emagine; Poland; On-site; PLN 250,000 - 400,000; Full time

Job summary

emagine poszukuje inżyniera platformowego do pracy zdalnej w Polsce. Będziesz projektować i rozwijać runtime dla platformy AI, utrzymywać warstwę infrastruktury, a także implementować IaC oraz GitOps w środowiskach multi-cloud.

Wymagane doświadczenie z Kubernetes, Docker, Terraform oraz znajomość ekosystemu AI/LLM. Praca startuje ASAP, umowa B2B na 12 miesięcy, bez on-call i incydentów.

Qualifications

• Wykształcenie wyższe w obszarze CS/Engineering lub pokrewnym.
• Doświadczenie w Platform Engineeringu oraz architekturze systemów AI/LLM.

Responsibilities

• Projektowanie, rozwój i utrzymanie runtime'u dla platformy AI.
• Budowa i utrzymanie komponentów platformowych: LLM Gateway, model routing, serving/inference, API, storage i cache.
• Wdrażanie IaC oraz GitOps, monitoringu i telemetrii.
• Zapewnienie bezpieczeństwa i ochrony danych oraz optymalizacji kosztów środowisk AI.

Skills

Kubernetes

Docker

CI/CD

Terraform

Infrastructure as Code

Platform Engineering

Security & Governance

Monitoring

Multi-cloud

Hybrid env

Education

Bachelor or Master in Computer Science/Engineering

Tools

Docker

Kubernetes

Terraform

Job description

• umowa B2B
• kontrakt na 12 miesięcy
• praca zdalna
• start ASAP
• obowiązkowy stand-up o 8:00
• praca z terenu Uni Europejskiej

Dołącz do projektu budowy centralnej platformy AI, która będzie wykorzystywana przez ponad 150 zespołów developerskich. Celem jest zapewnienie wspólnej warstwy AI Infrastructure oraz Security & Governance dla produktów rozwijanych w organizacji. Projekt znajduje się na etapie greenfield, jednak część komponentów jest już zbudowana w środowiskach Azure i AWS. Obecnie brak warstwy self-hosted oraz pełnej telemetrii. Dostępne są już bazy danych oraz interfejs użytkownika. Brak dyżurów on-call i odpowiedzialności za incident management.

Główne Odpowiedzialności

• Projektowanie, rozwój i utrzymanie runtime'u dla platformy AI.
• Budowa i utrzymanie komponentów platformowych, takich jak:
  • warstwa LLM Gateway oraz model routing,
  • infrastruktura model serving i inference,
  • warstwa API oraz abstrakcje usług,
  • systemy vector storage i retrieval,
  • warstw cache oraz optymalizacja wydajności.
• Projektowanie jednolitego interfejsu dostępu do usług AI.
• Budowa i utrzymanie środowisk opartych na Docker i Kubernetes.
• Wdrażanie Infrastructure as Code oraz praktyk GitOps.
• Implementacja monitoringu i telemetrii platformy.
• Zapewnienie bezpieczeństwa, w tym zarządzania dostępem i ochrony danych.
• Optymalizacja wydajności i kosztów środowisk AI.
• Współpraca z zespołami platformowymi oraz deweloperami.
• Odpowiedzialność za projekt architektury oraz implementację.

Wymagania Kluczowe:

• Doświadczenie w Platform Engineeringu.
• Bardzo dobra znajomość Kubernetes i Docker.
• Doświadczenie z CI/CD.
• Doświadczenie z Terraform oraz Infrastructure as Code.
• Znajomość architektury platformowej oraz umiejętność projektowania rozwiązań.
• Doświadczenie doradcze i architektoniczne.
• Znajomość ekosystemów AI/LLM, w szczególności:
  • model serving,
  • inference,
  • routing modeli,
  • LLM Gateway.
• Doświadczenie z rozwiązaniami bezpieczeństwa dla AI, np. LLM Guard.
• Znajomość zagadnień związanych z obserwowalnością, monitoringiem i bezpieczeństwem platform.
• Doświadczenie w środowiskach hybrydowych i multi-cloud.
• Wykształcenie wyższe (Bachelor lub Master) w obszarze Computer Science, Engineering lub pokrewnym.