Arquiteto(a) de Plataforma de IA

Nava | Tech for Business; São Paulo; Presencial; BRL 180 000 - 260 000; Tempo integral

Resumo da oferta

Nava | Tech for Business procura Arquitetos(as) de Plataforma de IA para atuar em projeto estratégico de consultoria e sustentação em uma grande instituição bancária.

O papel envolve definir a arquitetura-alvo da plataforma IA interna, projetar gateway de LLM, estratégias multi-provedor e arquiteturas de referência para RAG e agentes, com foco em segurança, escalabilidade e custo.

Qualificações

• Experiência comprovada com aplicações de LLM em produção.
• Python sólido para desenvolvimento de plataforma IA.
• Conhecimento de frameworks e gateways de IA descritos na vaga.

Responsabilidades

• Definir e evoluir a arquitetura-alvo da plataforma interna de IA.
• Arquitetar gateway de LLM com abstração de provedores, roteamento, fallback, rate limiting e quotas.
• Desenvolver estratégias multiprovedor e mitigação de vendor lock-in.
• Criar arquiteturas de referência para RAG, sumarização e agentes.
• Estruturar multitenancy e integração com IAM corporativo.
• Implementar tracing e métricas de uso e desempenho.
• Estruturar custos por squad e feature, com governança de custos.
• Criar mecanismos de avaliação de prompts, modelos e ferramentas.
• Definir SLOs, resiliência e capacity planning para provedores.

Conhecimentos

Python sólido

Arquitetura de plataformas IA

Experiência com LLM em produção

Ferramentas

LiteLLM

Portkey

Kong AI Gateway

AWS Bedrock

Azure OpenAI

GCP Vertex AI

Langfuse

LangSmith

Arize Phoenix

Helicone

Promptfoo

Ragas

Braintrust

TruLens

LangChain

LangGraph

LlamaIndex

Kubernetes

Terraform

CI/CD

IAM

Descrição da oferta de emprego

Buscamos Arquitetos(as) de Plataforma de IA para atuação em um projeto estratégico de consultoria e sustentação em uma grande instituição do segmento bancário.

Principais responsabilidades:

• Definir e evoluir a arquitetura-alvo da plataforma interna de IA;
• Arquitetar gateway de LLM com abstração de provedores, roteamento, fallback, rate limiting e quotas;
• Desenvolver estratégias multiprovedor e mitigação de vendor lock-in;
• Criar arquiteturas de referência para RAG, sumarização, classificação e agentes;
• Estruturar multitenancy e integração com IAM corporativo;
• Implementar tracing ponta a ponta para chamadas de LLM e agentes;
• Estruturar métricas de latência, tokens, erros, qualidade e utilização;
• Implementar acompanhamento de custos por squad e feature;
• Criar mecanismos de avaliação e regressão de prompts, modelos e ferramentas;
• Estruturar experimentação, testes A/B, shadow deployment, feature flags e rollout progressivo;
• Definir SLOs, resiliência, capacity planning e estratégias para incidentes de provedores;
• Desenvolver SDKs e caminhos padronizados para adoção segura da plataforma pelos squads.

Requisitos:

• Experiência comprovada com aplicações de LLM em produção;
• Python sólido;
• LiteLLM, Portkey, Kong AI Gateway ou equivalente;
• AWS Bedrock, Azure OpenAI ou GCP Vertex AI;
• Langfuse, LangSmith, Arize Phoenix, Helicone ou similares;
• Promptfoo, Ragas, Braintrust, TruLens ou harness próprio;
• LangChain/LangGraph, LlamaIndex ou equivalente;
• RAG em produção: embeddings, chunking, vector stores, reranking e avaliação de retrieval;
• Kubernetes, containers, Terraform e CI/CD;
• IAM, redes e criptografia;
• Arquitetura de APIs e sistemas distribuídos.

Diferenciais:

• Sistemas agênticos em produção;
• Human-in-the-Loop e supervisão de agentes;
• Experiência em instituições financeiras ou ambientes regulados;
• FinOps aplicado à IA;
• Contribuição para projetos open source do ecossistema de IA;
• Certificações de arquitetura Cloud.

Quantidade:

2 vagas

Escopo:

Consultoria especializada + sustentação da plataforma

Projeto:

Grande cliente do segmento bancário