Senior AI Platform Engineer – LLM Gateway

Tecdata Engineering; United States; Remote; USD 46.000 - 56.000; Vollzeit

Benefits dieser Stelle

Teletrabajo

SBA 45.000€

Zusammenfassung

BBVA busca un profesional senior para implementar y evolucionar una plataforma corporativa de LLM Gateway. Se trabajará en arquitectura, seguridad y gobernanza para habilitar el acceso a modelos de IA generativa con control homogéneo.

El rol requiere experiencia práctica en plataformas cloud empresariales, seguridad, integración y automatización, con foco en operaciones, observabilidad y coste.

Qualifikationen

• Experiencia de al menos 6 años en ingeniería de plataforma o campos afines.
• Experiencia mínima de 1 año con integración de AI Gateways.
• Operar APIs/plataformas transversales en entornos complejos.
• Integrar APIs de inferencia y modelos de IA generativa en producción con autenticación, streaming y tratamiento de errores.

Aufgaben

• Implementar componentes del LLM Gateway conforme a la arquitectura y controles BBVA.
• Diseñar integraciones, patrones de consumo y evolución de capacidades.
• Integrar aplicaciones y servicios con el endpoint de inferencia corporativo.
• Aplicar OAuth2/OIDC, JWT, y principios de mínimo privilegio para identidades de workload.

Kenntnisse

API Gateways

AWS

Security

Python

CI/CD

Terraform

OAuth2/OIDC

Kubernetes

Observability

Networking

Tools

Terraform

CloudFormation

CDK

Kubernetes

Docker

CI/CD pipelines

Jobbeschreibung

Senior AI Platform Engineer - LLM Gateway

BBVA busca un profesional senior para incorporarse a la implantación de una plataforma corporativa de LLM Gateway. La plataforma proporcionará un acceso común, seguro, gobernado y observable a modelos fundacionales para los distintos casos de uso, aplicaciones y agentes de IA del Grupo.

El objetivo del rol es contribuir a materializar e industrializar la solución, trabajando sobre la arquitectura y los estándares corporativos definidos, y participando activamente en su evolución técnica. No se busca un perfil exclusivamente funcional ni de consumo de APIs de IA: se requiere experiencia práctica en plataformas cloud empresariales, seguridad, integración, operación y automatización.

Resumen del puesto

Implementar y evolucionar las capacidades técnicas necesarias para que los consumidores corporativos accedan a los modelos de IA generativa a través de un Gateway, evitando la gestión distribuida de credenciales de proveedores y asegurando controles homogéneos de seguridad, gobierno, observabilidad, resiliencia y costes.

Responsabilidades principales

• Implementar los componentes y configuraciones del LLM Gateway conforme a la arquitectura, estándares y controles corporativos de BBVA.
• Diseño técnico de integraciones, patrones de consumo y evolución de capacidades de la plataforma, aportando criterio de implementación y operabilidad.
• Integrar aplicaciones, agentes y servicios consumidores con el endpoint corporativo de inferencia, facilitando patrones reutilizables de adopción.
• Integrar el LLM Gateway con los mecanismos corporativos existentes de identidad, autenticación y autorización, aplicando los estándares definidos por BBVA para identidades de workload, OAuth2/OIDC, JWT, audiencias, scopes y principio de mínimo privilegio.
• Configurar la gestión segura y centralizada de secretos y credenciales de proveedores, incluida su segregación por entorno y su rotación.
• Implementar la configuración del Gateway necesaria para la conectividad con proveedores de modelos y coordinar su validación con los equipos responsables de Redes y Seguridad, incluida DNS, proxy, TLS, certificados y egress controlado.
• Configurar y evolucionar capacidades de gobierno y protección: políticas de acceso, rate limiting, cuotas, enrutamiento, límites de consumo, filtrado/guardrails y trazabilidad.
• Implantar capacidades de resiliencia y calidad de servicio: timeouts, reintentos, circuit breaking, manejo de errores, fallback cuando aplique y pruebas de carga.
• Instrumentar la plataforma para su operación: métricas, logs estructurados, trazas distribuidas, alertas, cuadros de mando y soporte a auditoría.
• Habilitar la medición de consumo y costes por aplicación, agente, proyecto, entorno y modelo, en coordinación con los equipos de control y FinOps.
• Automatizar despliegues, configuración y pruebas mediante Infraestructura como Código y pipelines CI/CD.
• Elaborar documentación técnica, guías de integración, procedimientos operativos y material de transferencia a los equipos de BBVA.
• Colaborar de forma estrecha con los equipos de Arquitectura, Ciberseguridad, IAM, Cloud/Platform Engineering, Redes, SRE y equipos de desarrollo.

Requisitos técnicos

• Experiencia de al menos 6 años en ingeniería de plataforma, cloud engineering, integración de sistemas distribuidos, API management o ámbitos equivalentes.
• Experiencia demostrable previa de al menos 1 año con integración de AI Gateways.
• Experiencia demostrable implantando y operando APIs, plataformas compartidas o servicios transversales en entornos empresariales complejos.
• Experiencia práctica integrando APIs de inferencia y modelos de IA generativa en entornos productivos con alta concurrencia, incluyendo autenticación, streaming, gestión de errores, límites de consumo, latencia y uso de tokens.
• Experiencia con API Gateways, gestión de APIs o plataformas de integración equivalentes.
• Experiencia implementando capacidades de plataforma aplicadas a APIs: políticas de acceso, rate limiting, cuotas, trazabilidad, observabilidad y gestión de errores.
• Conocimiento sólido de seguridad de APIs e integración con mecanismos corporativos existentes de identidad y control de acceso: OAuth2, OIDC, JWT, gestión de secretos, scopes, audiencias y principio de mínimo privilegio.
• Experiencia con AWS, especialmente en capacidades de identidad, gestión de secretos, observabilidad, networking e Infraestructura como Código.
• Conocimiento de redes y seguridad cloud: VPC, egress controlado, proxy, DNS, TLS, certificados y conectividad con servicios externos.
• Experiencia implementando observabilidad y operación de servicios: métricas, logs estructurados, trazas distribuidas, alertas, SLI/SLO y diagnóstico de incidencias.
• Experiencia de desarrollo y automatización con Python, incluyendo implementación de APIs, integraciones, middlewares o componentes de plataforma.
• Experiencia con Terraform, CloudFormation o CDK, CI/CD y gestión de configuración versionada.
• Capacidad para trabajar coordinadamente con equipos de Arquitectura, IAM, Ciberseguridad, Redes, Cloud/Platform Engineering y desarrollo en un entorno corporativo regulado.
• Autonomía en identificación de problemas ante incidentes o problemas complejos tales como cuellos de botella, problemas de integración, etc.

Conocimientos valorables

• Experiencia específica con AWS AgentCore Gateway, Amazon Bedrock u otras capacidades AWS orientadas a IA generativa.
• Experiencia previa en la implantación de un LLM Gateway o plataforma de acceso gobernado a modelos fundacionales.
• Integración con OpenAI y otros proveedores de modelos, así como con APIs compatibles con OpenAI.
• Experiencia con patrones multi-modelo o multi-proveedor, enrutamiento de modelos, fallback y mecanismos de resiliencia.
• Implementación de guardrails, filtrado de contenido, protección frente a prompt injection, DLP y clasificación de datos.
• Conocimientos de FinOps aplicado a IA generativa, incluyendo medición, imputación y optimización de costes por consumidor o caso de uso.
• Experiencia con Kubernetes/EKS, service mesh y prácticas SRE avanzadas.
• Experiencia previa en banca u otros sectores con elevados requisitos de seguridad, trazabilidad, segregación y cumplimiento normativo.

SBA: 45.000€

Modalidad: Teletrabajo