LLMOps Engineer - Sector Financiero

KSR-Global; San Isidro; Vor Ort; PEN 120.000 - 180.000; Vollzeit

Zusammenfassung

Viterbit es una empresa del sector financiero que busca un LLMops Engineer para asegurar la operación, monitoreo y optimización de agentes de IA en producción. El rol implica llevar modelos y herramientas de IA desde desarrollo hasta entornos productivos con monitoreo continuo y trazabilidad completa.

El/la candidato/a deberá implementar observabilidad end-to-end, medir costos y rendimiento, y construir dashboards por agente.

Aufgaben

• Llevar agentes de IA desde desarrollo y pruebas hacia producción, y operar/monitorear agentes en ambientes productivos con mantenimiento continuo.
• Implementar observabilidad end-to-end: registrar interacciones (API calls, tools, decisiones) y garantizar trazabilidad completa para auditoría.
• Medir y monitorear costos (tokens, transacción, uso total), latencia y construir dashboards de consumo y performance por agente.
• Implementar sistemas de evaluación continua (Evals) de agentes: monitorear calidad de respuestas, ajustar y optimizar en base a métricas.
• Implementar guardrails de seguridad y control: asegurar cumplimiento de políticas del banco y prevenir comportamientos no deseados en producción.
• Bonus: Participará en iniciativas estratégicas de IA Generativa del banco, trabajando con líderes de squads de GenAI.

Jobbeschreibung

Importante empresa del sector financiero está en búsqueda de un profesional que ocupe el cargo de LLMops Engineer, que se encargará de asegurar la correcta operación, monitoreo y optimización de agentes de IA en producción.

Funciones:

• Llevar agentes de IA desde desarrollo y pruebas hacia producción, y operar/monitorear agentes en ambientes productivos con mantenimiento continuo.
• Implementar observabilidad end-to-end: registrar interacciones (API calls, tools, decisiones) y garantizar trazabilidad completa para auditoría.
• Medir y monitorear costos (tokens, transacción, uso total), latencia y construir dashboards de consumo y performance por agente.
• Implementar sistemas de evaluación continua (Evals) de agentes: monitorear calidad de respuestas, ajustar y optimizar en base a métricas.
• Implementar guardrails de seguridad y control: asegurar cumplimiento de políticas del banco y prevenir comportamientos no deseados en producción.
• Bonus: Participará en iniciativas estratégicas de IA Generativa del banco, trabajando con líderes de squads de GenAI.