Senior AI Infra & LLM Engineer — Remote

Factech Servicios Informáticos; Bogotá; Presencial; COP 180.000.000 - 240.000.000; Jornada completa

Ventajas ofrecidas por este puesto de trabajo

Contrato indefinido

Remoto 100%

Medicina prepagada

Plan de carrera y crecimiento

Acceso a cursos y certificaciones sinC

Descuentos en programas educativos

Viajes internacionales

Incentivos por desempeño

Proyectos internacionales con IA/LLM/云

Flexibilidad laboral

Descripción de la vacante

FACTECH continúa creciendo y está en búsqueda de un/a Senior AI Infrastructure / LLM Engineer para integrarse a nuestro equipo y participar en proyectos internacionales de alto impacto, trabajando con infraestructura GPU, despliegue de modelos de lenguaje y plataformas de Cloud.

Se ofrece contrato indefinido, modalidad 100% remota, medicina prepagada y plan de carrera con crecimiento profesional, además de viajes internacionales y formación continua.

Formación

• Experiencia sólida en infraestructura Cloud, DevOps, Platform Engineering, SRE o roles equivalentes.
• Mínimo 4 años de experiencia en infraestructura Cloud o DevOps.
• Mínimo 1 año de experiencia demostrable desplegando y operando modelos de lenguaje en producción.
• Experiencia práctica en despliegue, configuración, operación y optimización de modelos de lenguaje open source sobre infraestructura GPU.

Responsabilidades

• Diseñar, desplegar, configurar y optimizar servicios de inferencia de modelos de lenguaje open source sobre infraestructura GPU.
• Implementar y operar plataformas de inferencia utilizando vLLM y/o SGLang.
• Diseñar y desplegar infraestructura GPU sobre AWS y/o Azure.
• Dimensionar recursos de cómputo mediante pruebas de carga, benchmarking y análisis de rendimiento.
• Optimizar el rendimiento de los servicios de inferencia considerando latencia, throughput, concurrencia, utilización de GPU, VRAM y KV Cache.
• Implementar estrategias de cuantización y optimización de modelos utilizando FP8, AWQ, GPTQ o GGUF.
• Diseñar y mantener infraestructura mediante Terraform, aplicando buenas prácticas de Infrastructure as Code.
• Implementar y mantener los diferentes entornos de desarrollo, preproducción y producción.
• Diseñar y mantener procesos de CI/CD para infraestructura, servicios y aplicaciones de Inteligencia Artificial.
• Desplegar, configurar y administrar servicios utilizando Docker y Kubernetes.
• Gestionar workloads de GPU sobre Kubernetes, optimizando la asignación y utilización de recursos.

Conocimientos

Infraestructura Cloud

DevOps / Platform Engineering

SRE

Python 3.11+ asyncio FastAPI

Educación

Bachelor's degree in a relevant field

Herramientas

vLLM

SGLang

Terraform

Docker

Kubernetes

PostgreSQL

pgvector

Qdrant

Weaviate

Redis

Prometheus

Grafana

LangGraph

CrewAI

AutoGen

LiteLLM

GitHub Actions

GitLab CI

Ansible

Linux

NVIDIA Container Toolkit

CUDA

Descripción del empleo

FACTECH continúa creciendo y está en búsqueda de un/a Senior AI Infrastructure / LLM Engineer para integrarse a nuestro equipo y participar en proyectos internacionales de alto impacto, trabajando con infraestructura GPU, despliegue de modelos de lenguaje y plataformas de Cloud.

Se ofrece contrato indefinido, modalidad 100% remota, medicina prepagada y plan de carrera con crecimiento profesional, además de viajes internacionales y formación continua.