Stage IA à l’Edge: Optimisation & Déploiement de Modèles

OCTO TECHNOLOGY; Paris; Hybride; EUR 11 000 - 18 000; Temps partiel

Avantages offerts par ce poste

Matériel au choix : ordinateur et tel

Télétravail

Évolution salariale annuelle

Résumé du poste

OCTO TECHNOLOGY recherche un stagiaire BAC+5 pour travailler sur l’inférence de modèles dans un environnement contraint, en explorant quantification, cache KV, et déploiement sur hardware varié (GPU, smartphone et serveurs internes).

Vous étudierez des techniques d’optimisation, comparerez des runtimes et proposerez une solution d’usage adaptée, tout en rédigeant un article et en partageant les résultats au sein des Octos.

Qualifications

• Prépare un BAC+5 et recherche un stage de fin d’études.
• Appétence pour les sujets de Data Science et exploration de l'état de l’art.
• A déjà exploré des modèles, contributions/projets/articles en open source.

Responsabilités

• Cartographier les techniques d’optimisation pour LLM/VLM embarqués.
• Comparer les runtimes et délégués matériels.
• Implémenter un cas d’usage interne sur données sensibles sur plusieurs paliers.
• Mesurer les compromis et optimiser les performances.
• Produire une recommandation et un article OCTO.

Connaissances

Curiosité

Ambition

Autonomie

Formation

BAC+5

Outils

Python

Git

Linux

PyTorch

Description du poste

OCTO TECHNOLOGY recherche un stagiaire BAC+5 pour travailler sur l’inférence de modèles dans un environnement contraint, en explorant quantification, cache KV, et déploiement sur hardware varié (GPU, smartphone et serveurs internes).

Vous étudierez des techniques d’optimisation, comparerez des runtimes et proposerez une solution d’usage adaptée, tout en rédigeant un article et en partageant les résultats au sein des Octos.