Instrutor de AI Security | Foco em Segurança de Machine Learning

FIAP; Brasil; Presencial; BRL 120 000 - 240 000; Tempo integral

Resumo da oferta

FIAP busca um profissional na interseção entre Machine Learning e Cibersegurança. Você entenderá como modelos preditivos podem ser atacados em cada etapa do pipeline, desde o treinamento até a API em produção, e projetará defesas correspondentes para operar a segurança diariamente.

O candidato ideal possui experiência em ML security, red teaming de modelos, hardening, MLSecOps e capacidade de traduzir conceitos matemáticos de adversarial ML para equipes de segurança, mantendo comunicação clara

Qualificações

• 2+ anos de experiência em segurança da informação combinada com atuação prática em machine learning ou adversarial ML.
• Vivência real com pelo menos um dos contextos: red teaming/pentest de ML, hardening/defesa adversarial em produção ou MLSecOps.
• Experiência prática com Python científico aplicado a ML (scikit-learn, PyTorch, pandas/numpy).
• Familiaridade prática com ART e/o Foolbox para gerar, avaliar e mitigar ataques adversariais.

Conhecimentos

ML security

Red team ML

Python para ML

MLSecOps

Defesa adversarial

MITRE ATLAS

Ferramentas

ART

Foolbox

Descrição da oferta de emprego

Buscamos um profissional na interseção entre Machine Learning e Cibersegurança. Alguém que entende como modelos preditivos (os que decidem crédito, fraude, malware e recomendação em produção) podem ser atacados em cada etapa do pipeline, e que é capaz tanto de executar esses ataques em laboratório quanto de projetar as defesas correspondentes e operar a segurança desses modelos no dia a dia. Não buscamos apenas um cientista de dados com curiosidade por segurança, mas alguém com visão crítica sobre como um atacante explora um modelo de ML clássico, do dataset de treino à API que serve as predições em produção.

O perfil ideal já trabalhou com segurança de machine learning em alguma capacidade, seja realizando red teaming de modelos preditivos (poisoning, evasão, extração de modelo), implementando hardening e defesa adversarial de modelos em produção, ou atuando em MLSecOps (monitoramento de drift, resposta a incidente de modelo comprometido, programa de segurança de ML). Tem linguagem técnica precisa e consegue traduzir conceitos matemáticos de adversarial ML para profissionais de segurança e vice-versa.

Experiência esperada

• 2+ anos de experiência em segurança da informação combinada com atuação prática em machine learning ou adversarial ML
• Vivência real com ao menos um dos seguintes contextos: red teaming/pentest de modelos de ML (poisoning, evasão, extração e inferência), hardening e defesa adversarial de modelos já em produção, ou MLSecOps (monitoramento contínuo, resposta a incidente de modelo comprometido)
• Experiência prática com Python científico aplicado a ML (scikit-learn, PyTorch, pandas/numpy) e capacidade de treinar, avaliar e servir modelos preditivos
• Familiaridade prática com ART (Adversarial Robustness Toolbox, IBM/Linux Foundation AI & Data) e/ou Foolbox para gerar, avaliar e mitigar ataques adversariais

Conhecimentos técnicos essenciais (não precisa ter todos)

• O pipeline de ML (coleta, treinamento, validação, deploy, serving) como superfície de ataque, diferenciando ML preditivo/discriminativo de LLMs e modelos generativos
• MITRE ATLAS aplicado a sistemas de ML: táticas ao longo do ciclo de vida (reconnaissance, ML attack staging, poisoning, evasão, exfiltração)
• OWASP Machine Learning Security Top 10 e como ele se relaciona com o ATLAS (um cataloga táticas, o outro prioriza riscos)

Ataques a modelos de ML clássico

• Data e model poisoning: label flipping (indiscriminado e direcionado), backdoor/trojan attacks e clean-label poisoning (feature collision, gradient matching)
• Evasion attacks: exemplos adversariais com FGSM e PGD (white-box), ataques black-box baseados em consulta, transferability entre modelos, aplicados a classificadores tabulares de fraude/scoring e a detectores de malware
• Model extraction (clonagem de modelo proprietário via consultas a API de MLaaS), model inversion (reconstrução de dado de treino) e membership inference

Defesa e hardening

• Adversarial training, defensive distillation e outras técnicas de hardening de modelo
• Defesas em tempo de inferência (detecção de anomalias na entrada) e defesas contra poisoning no dado de treino (outlier detection, activation clustering)
• Avaliação e benchmarking de robustez adversarial, incluindo a armadilha de gradient masking/obfuscated gradients e o trade-off robustez vs. acurácia

Privacidade e operação contínua (MLSecOps)

• Differential privacy aplicada a ML: treinamento privado com DP-SGD (Opacus, TensorFlow Privacy) e o trade-off privacidade vs. utilidade
• Watermarking de modelos e defesas operacionais de API contra extração
• MLSecOps: monitoramento de drift malicioso (Evidently AI, whylogs), logging/auditoria de consultas e resposta a incidente de modelo comprometido

Diferenciais

• Pesquisa publicada ou apresentação em eventos sobre adversarial ML ou segurança de machine learning (NeurIPS workshops, USENIX Security, Black Hat, DEF CON AI Village, Mind the Sec ou equivalentes)
• Experiência real protegendo sistemas de scoring de crédito, detecção de fraude ou classificação de malware baseados em ML em produção
• Conhecimento de plataformas de MLaaS comerciais (AWS SageMaker, Google Vertex AI, Azure ML, BigML) e dos riscos específicos de exposição via API
• Criação de conteúdo técnico público: artigos, repositórios, cursos ou palestras sobre segurança de machine learning
• Capacidade de transformar projetos reais e experiências profissionais em aulas práticas e acessíveis;
• Boa comunicação verbal e escrita para apresentar conceitos técnicos de forma clara, estruturada e com linguagem próxima da comunidade de tecnologia.