Consultant Data Analytic

Safari Technologies; Colombes; On-site; EUR 70,000 - 100,000; Full time

Job summary

Safari Technologies recherche un consultant FinOps Cloud spécialisé IA & LLM pour piloter les coûts liés aux LLM et à l’IA générative, et mettre en place des dashboards et rapports de coûts.

Vous définirez des profils d’usage, recommanderez des choix de modèles et contribuerez à sensibiliser les équipes sur les bonnes pratiques FinOps IA, avec des livrables et une collaboration avec les projets pilotes.

Qualifications

• Expérience FinOps Cloud minimale de 3 ans avec analyse de coûts et dashboards.
• Compétences en DataViz et outils comme Power BI/Grafana/Looker.
• Maîtrise Python/SQL pour l'extraction et l'analyse des données de consommation.
• Expérience FinOps IA / LLM d'au moins 1 an.
• Connaissance des modèles LLM et usages, performances et coûts.

Responsibilities

• Mettre en place le suivi des consommations LLM/tokens et dashboards.
• Analyser les coûts et écarts par rapport au budget et détecter les anomalies.
• Proposer des leviers d’optimisation: réduction des contextes, pré-traitement des documents, choix modèles.
• Définir profils d’utilisation des LLM par rôle et type de tâche et recommander les modèles.
• Élaborer et diffuser les bonnes pratiques FinOps IA et sensibiliser les équipes.
• Collaborer avec les projets pilotes pour optimiser les usages IA.

Skills

FinOps Cloud

Data Analytics & DataViz

Python / SQL

FinOps IA / LLM

LLM & IA générative

Tools

Power BI

Grafana

Looker

Job description

Consultant FinOps Cloud / FinOps IA & LLM – Data Analytic

Description de la mission

L’entreprise souhaite accompagner le développement des usages des LLM et de l’IA générative tout en maîtrisant les coûts associés. La prestation consiste à mettre en place un pilotage FinOps IA permettant de suivre la consommation de tokens, détecter les usages anormaux, analyser les écarts par rapport aux budgets et identifier des leviers d’optimisation. Elle vise également à définir des profils d’usage et des recommandations de choix/routage des modèles LLM, afin d’optimiser le rapport entre performance, usage et coût.

Objectifs de la prestation
La prestation est orientée pilotage et optimisation des coûts liés aux LLM, avec une dimension Data/Reporting importante.

Tâches principales :

• Mettre en place le suivi des consommations LLM / tokens, notamment via LightLLM et AI Gateway, avec une vision par utilisateur, projet et entité.
• Construire les dashboards FinOps IA nécessaires au suivi opérationnel des consommations.
• Analyser les coûts et consommations, les comparer aux budgets et identifier les écarts ou usages anormaux.
• Identifier des leviers d’optimisation : réduction de la taille des contextes, prétraitement des documents, recours à des modèles moins coûteux selon les usages.
• Définir des profils d’utilisation des LLM par rôle et par type de tâche, puis recommander le modèle le plus adapté en termes de qualité/coût.
• Définir et diffuser les bonnes pratiques FinOps IA, sensibiliser les équipes et fournir des recommandations aux instances de pilotage.
• Collaborer avec les équipes internes et les projets pilotes afin d'analyser et optimiser les usages IA en situation réelle.

Livrables attendus

• Rapport FinOps IA mensuel avec consommations, écarts budgétaires, alertes et recommandations d’optimisation.
• Dashboards de suivi des consommations, maintenus à jour.
• Guide des bonnes pratiques FinOps IA.
• Fiches de recommandations d’optimisation FinOps, avec au moins 2 attendues sur la durée de la mission.
• Cartographie des profils d’utilisation et recommandations de routing des LLM, avec au moins 2 livrables attendus.
• Support de sensibilisation FinOps IA destiné aux instances internes

Environnement technique

• Cloud : AWS et GCP
• DataViz / Reporting : outils de dashboarding disponibles au sein de l’entreprise, à définir lors de la phase d’initialisation
• LLM / IA générative : environnement multi-modèles incluant notamment Claude, Gemini, GPT et Mistral

Compétences clés demandées par le client

• FinOps Cloud : 3 ans minimum. Analyse des coûts Cloud, dashboards, détection d’anomalies et recommandations d’optimisation. - Niveau 4 : Expertise / Initie, influence
• Data Analytics & DataViz : 3 ans minimum. Power BI, Grafana, Looker ou équivalent, avec capacité à construire des dashboards exploitables. - Niveau 4 : Expertise / Initie, influence
• Scripting & analyse de données, Python / SQL : 2 ans minimum. Extraction, transformation et analyse des données de consommation. - Niveau 3 : Maitrise / Garantit, conseille
• FinOps IA / LLM : 1 an minimum. Tarification des LLM, consommation de tokens, optimisation et monitoring IA / AI Gateway. - Niveau 3 : Maitrise / Garantit, conseille
• LLM & IA générative : 1 an ou pratique avérée. Connaissance des différents modèles du marché et compréhension de leurs usages, performances et coûts. - Niveau 3 : Maitrise / Garantit, conseille

Savoir-être

• Communication & pédagogie : savoir vulgariser les sujets FinOps/IA auprès d’interlocuteurs non techniques et présenter en instance.
• Esprit d’analyse, critique et de synthèse : analyser les données, prendre du recul et être force de proposition.
• Autonomie relationnelle : être à l’aise avec une grande variété d’interlocuteurs.
• Capacité d’exécution rapide : priorisation, pragmatisme et orientation résultats.
• Organisation, adaptation et anticipation : savoir évoluer dans un environnement innovant et changeant.
• Esprit d’équipe.
• Pratiques Agiles : capacité à travailler avec les rituels et artefacts Agile.

Déplacements
- Des déplacements sont à prévoir à hauteur de 2 fois par an sur Toulouse

Compétences:

Compétences clés demandées par le client

• FinOps Cloud : 3 ans minimum. Analyse des coûts Cloud, dashboards, détection d’anomalies et recommandations d’optimisation. - Niveau 4 : Expertise / Initie, influence
• Data Analytics & DataViz : 3 ans minimum. Power BI, Grafana, Looker ou équivalent, avec capacité à construire des dashboards exploitables. - Niveau 4 : Expertise / Initie, influence
• Scripting & analyse de données, Python / SQL : 2 ans minimum. Extraction, transformation et analyse des données de consommation. - Niveau 3 : Maitrise / Garantit, conseille
• FinOps IA / LLM : 1 an minimum. Tarification des LLM, consommation de tokens, optimisation et monitoring IA / AI Gateway. - Niveau 3 : Maitrise / Garantit, conseille
• LLM & IA générative : 1 an ou pratique avérée. Connaissance des différents modèles du marché et compréhension de leurs usages, performances et coûts. - Niveau 3 : Maitrise / Garantit, conseille

Savoir-être

• Communication & pédagogie : savoir vulgariser les sujets FinOps/IA auprès d’interlocuteurs non techniques et présenter en instance.
• Esprit d’analyse, critique et de synthèse : analyser les données, prendre du recul et être force de proposition.
• Autonomie relationnelle : être à l’aise avec une grande variété d’interlocuteurs.
• Capacité d’exécution rapide : priorisation, pragmatisme et orientation résultats.
• Organisation, adaptation et anticipation : savoir évoluer dans un environnement innovant et changeant.
• Esprit d’équipe.
• Pratiques Agiles : capacité à travailler avec les rituels et artefacts Agile.