Senior AI Platform Backend Engineer (LLM/Multi-Cloud)

OpenKrill; United States; Remote; USD 36,000 - 71,000; Full time

Benefits offered by this job

Plano de saúde

Plano odontológico

Vale alimentação/refeição

Auxílio-creche

PLR

CI&T University

Clube de descontos

Seguro de Vida

Benefícios de bem-estar

Job summary

CI&T procura um Backend Developer para evoluir a AI Platform do CI&T Flow, com foco na orquestração de modelos LLM e integração com provedores de IA. O papel envolve o desenho de uma plataforma multi-cloud observável, resiliente e escalável, com atuação próxima à governança, custos e conformidade.

Você trabalhará com Kotlin/Java e/ou Node.js, APIs distribuídas e pipelines CI/CD. Essa posição exige experiência sólida em software engineering, conhecimento em IA Generativa e visão para decisões

Qualifications

• Experiência sólida em desenvolvimento backend com Kotlin/Java e/ou Node.js.
• Arquitetura de sistemas distribuídos, APIs e serviços de alta disponibilidade.
• Experiência com cloud pública, Docker, Kubernetes e pipelines de CI/CD.
• Conhecimento em LLMs e arquiteturas de IA Generativa com provedores de cloud.
• Operação de LLMs: routing, fallback, streaming e gerenciamento de consumo.
• Observabilidade de sistemas distribuídos ( métricas, logs, traces ).
• Conhecimento de PostgreSQL e/ou MongoDB;
• Conhecimento de conceitos de RAG, AI Agents e Agentic AI.

Responsibilities

• Desenvolver e evoluir componentes core da plataforma de IA, incluindo governança de modelos.
• Projetar mecanismos de roteamento, load balancing, fallback e controle de custos de LLMs.
• Integrar com LiteLLM e provedores de modelos em ambientes cloud públicos.
• Evoluir APIs, serviços e observabilidade para alta disponibilidade e escalabilidade.
• Investigar incidentes complexos em produção e propor melhorias estruturais.
• Atuar como referência técnica e definir padrões de engenharia para a equipe.
• Colaborar com times consumidores para refinar soluções e resolver integrações.

Skills

Kotlin/Java

Node.js

Distributed systems

Cloud platforms

Docker

Kubernetes

LLMs / IA Generativa

Observability

PostgreSQL / MongoDB

RAG / Agentic AI

Architectural decisions

Tools

Azure OpenAI

AWS Bedrock

GCP Vertex AI

LangChain

LangGraph

Semantic Kernel

Job description

CI&T procura um Backend Developer para evoluir a AI Platform do CI&T Flow, com foco na orquestração de modelos LLM e integração com provedores de IA. O papel envolve o desenho de uma plataforma multi-cloud observável, resiliente e escalável, com atuação próxima à governança, custos e conformidade.

Você trabalhará com Kotlin/Java e/ou Node.js, APIs distribuídas e pipelines CI/CD. Essa posição exige experiência sólida em software engineering, conhecimento em IA Generativa e visão para decisões