Tech Lead Gen AI

OVERLABS; São Paulo; On-site; BRL 180,000 - 360,000; Full time

Job summary

A OVERLABS busca um(a) líder técnico(a) para guiar iniciativas de GenAI, com foco em soluções corporativas, RBAC/ABAC e governança de dados. O profissional atuará para alinhar estratégia com stakeholders técnicos e não técnicos.

Você coordenará equipes, projetará arquiteturas complexas e integrado tools como LangChain, Databricks e provedores de nuvem, assegurando desempenho, custo e conformidade com LGPD. O desafio é entregar valor com soluções escaláveis e seguras.

Qualifications

• Experiência prática construindo aplicações de GenAI em produção.
• Domínio de RAG de ponta a ponta: chunking, embeddings, bancos vetoriais, busca híbrida, NL2SQL e arquitetura de agentes.
• Engenharia de prompts e padrões de design de LLM (few-shot, structured output/JSON).

Responsibilities

• Liderar iniciativas técnicas de GenAI com foco em estratégia de soluções.
• Coordenar equipes e traduçir necessidades de negócio em soluções técnicas.
• Definir políticas de governança, RBAC/ABAC e segurança de dados.
• Garantir observabilidade e métricas de desempenho (latência, custos, confiabilidade).

Skills

Liderança técnica

Python

Arquitetura de soluções

Tools

LangChain

LangGraph

CrewAI

LlamaIndex

AutoGen

Semantic Kernel

Databricks

Unity Catalog

Job description

Estamos construindo soluções de IA Generativa chatbots corporativos, assistentes com RAG, agentes que executam ações e fluxos de automação, utilizando LLMs já disponíveis no mercado. Buscamos uma pessoa para liderar tecnicamente iniciativas que envolvem estratégia avançada de soluções de LLM nos principais provedores, como OCI, AWS e Azure.

O desafio é gerar valor a partir das capacidades das LLMs modernas para resolver problemas complexos, explorando recursos como tools, thinking, agents e LLM skills. Essas capacidades se somam a um ecossistema de gestão que abrange disponibilidade e uso de modelos, billing, gestão de tokens, FinOps, RBAC e ABAC, entre outros elementos de governança.

O que você vai fazer

• Arquitetar o ecossistema de GenAI da solução, escolhendo o padrão certo para cada problema: chatbots com capacidade comparável à dos grandes fornecedores (OpenAI, Claude, Gemini), uso intensivo de tools específicas por modelo e fluxos determinísticos para responder a perguntas complexas que envolvem cálculos precisos.
• Operar a camada conversacional: autenticação, controle de acesso (RBAC e ABAC), gestão de múltiplos modelos/provedores e governança de conversas.
• Projetar os processos de busca, combinando busca determinística (NL2SQL) com busca semântica/RAG (vetorial e híbrida), garantindo que aquilo que não pode errar seja tratado por código — e não pela "criatividade" do modelo.
• Especificar e integrar agentes e ferramentas (function calling / tools, MCP): quais ações o agente pode executar, tratamento de falhas, limites de autonomia e supervisão humana em ações sensíveis.
• Coordenar a plataforma de dados e serving no Databricks (Vector Search, Mosaic AI, model serving, Unity Catalog): versionamento, atualização e permissões dos dados que alimentam o RAG.
• Garantir avaliação e observabilidade do ecossistema: qualidade das respostas, fidelidade às fontes, alucinação, custo por interação (tokens), latência e escalabilidade.
• Definir guardrails e segurança: prevenção de prompt injection, mascaramento de PII, filtros de conteúdo e conformidade (LGPD, AI Act).
• Gerir custo e escolha de modelo: roteamento entre modelos, caching e controle de consumo de tokens.
• Alinhar expectativas de stakeholders, comunicando progresso, limitações e trade-offs de forma clara para públicos técnicos e não técnicos.
• Capacidade de gerar informações analiticas: para ajudar a entender o que ocorre por todo processo de serviços de GENAI.

O que buscamos

• Experiência prática construindo aplicações de LLM em produção (não apenas provas de conceito).
• Domínio de RAG de ponta a ponta: chunking, embeddings, bancos vetoriais, busca híbrida, busca determinística, NL2SQL, arquitetura agêntica, reranking e diagnóstico de falhas de recuperação.
• Engenharia de prompts e padrões de design de LLM (few-shot, structured output/JSON, chain-of-thought).
• Experiência com frameworks de orquestração de agentes (LangChain/LangGraph, CrewAI, Agno, LlamaIndex, AutoGen, Semantic Kernel ou similares) e com function calling / tools / skills.
• Vivência com Databricks aplicado a GenAI (Vector Search, Mosaic AI, Unity Catalog) e base de Spark/SQL.
• Clareza sobre a fronteira entre o determinístico e o probabilístico — saber onde o código previsível termina e o LLM começa.
• Fluência em Python e noções de infraestrutura (Docker, APIs REST, deploy de serviços).
• Capacidade de avaliar sistemas de LLM (suítes de teste, LLM-as-a-judge com cautela, testes de regressão).
• Perfil de liderança técnica: coordenar equipe, priorizar e traduzir necessidades de negócio em solução técnica.

Diferenciais

• Experiência com plataformas corporativas como OpenAI, Claude, Gemini e Perplexity.
• Familiaridade com MCP (Model Context Protocol) e arquiteturas multiagente.
• Uso de ferramentas de observabilidade de LLM (Langfuse, LangSmith ou equivalentes).
• Experiência com segurança de GenAI (prompt injection, escopo de assistentes, dados não confiáveis).
• Conhecimento de governança de dados e conformidade regulatória aplicada a IA.
• Estratégia multiprovedor e otimização de custo em escala.
• Conhecimento em ferramentas de analise de dados para geração de dashboard e cockpits

Informações Adicionais

Modelo de contratação: PJ