MLOps / Platform Mühendisi (Kubernetes & LLM)

CloudFlex; Fatih; On-site; TRY 300,000 - 520,000; Full time

Job summary

CloudFlex, kurumsal bulut ve yapay zekâ teknolojileri geliştiren bir teknoloji şirketidir. FlexAI ile kurumların kendi altyapılarında yapay zekâ modellerini çalıştırmalarını, FlexCube ile Kubernetes altyapılarını yönetmelerini, CloudPlus ile hibrit bulut ortamlarını merkezi olarak yönetmelerini sağlıyoruz.

Ekibimize katılacak MLOps / Platform Mühendisi arıyoruz. Bu rolde Kubernetes ve GPU altyapılarımızın geliştirilmesi, açık kaynaklı büyük dil modellerinin (LLM) eğitilmesi ve üretim ortamında

Qualifications

• DevOps/SRE/MLOps veya Platform Mühendisliği alanında en az 2 yıl deneyim.
• Kubernetes kurulum, yönetim ve sorun giderme tecrübesi.
• Linux sistem yönetimi ve container orkestrasyonu konusunda yetkinlik.

Responsibilities

• Kubernetes kümelerinin kurulumu, yapılandırılması, yönetimi, güncellenmesi ve izlenmesini sağlamak; üretim ortamlarının sürekliliğini ve güvenilirliğini geliştirmek.
• GPU tabanlı yapay zekâ altyapılarını yönetmek; NVIDIA GPU Operator, GPU sürücüleri, CUDA ve MIG/time-slicing konularında çalışmak.
• LLM modelleri için veri hazırlama, fine-tuning (LoRA/QLoRA) ve model değerlendirme süreçlerini yürütmek.
• LLM modellerini üretim ortamında servis etmek ve gecikme/throughput/gpu maliyetlerini optimize etmek.
• CI/CD ve GitOps süreçlerini tasarlamak, kurmak ve iyileştirmek; GitLab CI, GitHub Actions ve Argo CD gibi araçları kullanmak.
• Terraform, Ansible ve Helm ile IaC süreçlerini geliştirmek.

Skills

Kubernetes

GPU altyapıları

Python otomasyon

CI/CD

GitOps

Terraform

Ansible

Helm

Prometheus

Grafana

Tools

GitLab CI

GitHub Actions

Argo CD

Terraform

Ansible

Helm

Job description

CloudFlex, kurumsal bulut ve yapay zekâ teknolojileri geliştiren bir teknoloji şirketidir. FlexAI ile kurumların kendi altyapılarında yapay zekâ modellerini çalıştırmalarını, FlexCube ile Kubernetes altyapılarını yönetmelerini, CloudPlus ile hibrit bulut ortamlarını merkezi olarak yönetmelerini sağlıyoruz.

Veri egemenliği, yüksek performans, ölçeklenebilirlik ve operasyonel verimlilik odağında geliştirdiğimiz ürünlerle kurumların bulut ve yapay zekâ dönüşümüne katkı sağlıyoruz.

Ekibimize katılacak MLOps / Platform Mühendisi arıyoruz. Bu rolde Kubernetes ve GPU altyapılarımızın geliştirilmesi, açık kaynaklı büyük dil modellerinin (LLM) eğitilmesi ve üretim ortamında servis edilmesi süreçlerinde aktif sorumluluk alacaksınız.

Görev ve Sorumluluklar

• Kubernetes kümelerinin kurulumunu, yapılandırmasını, yönetimini, güncellenmesini ve izlenmesini sağlamak; üretim ortamlarının sürekliliğini ve güvenilirliğini geliştirmek.
• GPU tabanlı yapay zekâ altyapılarını yönetmek; NVIDIA GPU Operator, GPU sürücüleri, CUDA ve GPU kaynak paylaşımı (MIG / time-slicing) konularında çalışmak.
• Llama, Qwen, Mistral gibi açık kaynaklı LLM'ler için veri hazırlama, fine-tuning (LoRA / QLoRA) ve model değerlendirme süreçlerini yürütmek.
• LLM modellerini vLLM, Hugging Face TGI veya benzeri teknolojilerle üretim ortamında servis etmek; gecikme, throughput ve GPU kullanım maliyetlerini optimize etmek.
• CI/CD ve GitOps süreçlerini tasarlamak, kurmak ve iyileştirmek; GitLab CI, GitHub Actions ve Argo CD gibi araçları kullanmak.
• Terraform, Ansible ve Helm kullanarak altyapı otomasyonunu ve Infrastructure as Code (IaC) süreçlerini geliştirmek.
• Prometheus, Grafana ve merkezi loglama çözümleriyle sistem ve model gözlemlenebilirliğini sağlamak; alarm, performans ve model kalitesi takibini geliştirmek.
• Üretim ortamlarında karşılaşılan teknik sorunları analiz etmek, kök nedenlerini belirlemek ve kalıcı çözümler geliştirmek.
• Teknik dokümantasyon hazırlamak, operasyonel süreçleri iyileştirmek ve ekip içi bilgi paylaşımına katkıda bulunmak.
• DevOps, SRE, MLOps veya Platform Mühendisliği alanlarında en az 2 yıl deneyim.
• Üretim ortamlarında Kubernetes kurulum, yönetim ve sorun giderme deneyimi.
• Linux sistem yönetimi, ağ temelleri, container teknolojileri ve container orkestrasyonu konularında yetkinlik.
• Python ile otomasyon geliştirebilecek ve teknik problemleri çözebilecek seviyede programlama bilgisi.
• PyTorch ve Hugging Face ekosisteminde (Transformers, PEFT, Datasets) uygulamalı deneyim.
• En az bir LLM fine-tuning veya model servisleme projesinde uçtan uca sorumluluk almış olmak.
• Terraform ve/veya Ansible ile altyapı otomasyonu deneyimi.
• GPU hızlandırmalı iş yükleri, CUDA ve NVIDIA GPU ekosistemi hakkında bilgi sahibi olmak.
• Teknik problemleri analiz edebilen, sorumluluk alan ve çözüm odaklı çalışan bir yaklaşım.
• Dokümantasyona önem veren, ekip çalışmasına ve bilgi paylaşımına açık olmak.