Stage - Implémentation de modèles d’IA à l’edge - F/HN

OCTO TECHNOLOGY; Paris; Hybride; EUR 11 000 - 18 000; Temps partiel

Avantages offerts par ce poste

Matériel au choix : ordinateur et tel

Télétravail

Évolution salariale annuelle

Résumé du poste

OCTO TECHNOLOGY recherche un stagiaire BAC+5 pour travailler sur l’inférence de modèles dans un environnement contraint, en explorant quantification, cache KV, et déploiement sur hardware varié (GPU, smartphone et serveurs internes).

Vous étudierez des techniques d’optimisation, comparerez des runtimes et proposerez une solution d’usage adaptée, tout en rédigeant un article et en partageant les résultats au sein des Octos.

Qualifications

• Prépare un BAC+5 et recherche un stage de fin d’études.
• Appétence pour les sujets de Data Science et exploration de l'état de l’art.
• A déjà exploré des modèles, contributions/projets/articles en open source.

Responsabilités

• Cartographier les techniques d’optimisation pour LLM/VLM embarqués.
• Comparer les runtimes et délégués matériels.
• Implémenter un cas d’usage interne sur données sensibles sur plusieurs paliers.
• Mesurer les compromis et optimiser les performances.
• Produire une recommandation et un article OCTO.

Connaissances

Curiosité

Ambition

Autonomie

Formation

BAC+5

Outils

Python

Git

Linux

PyTorch

Description du poste

Vous faites partie de celles et ceux qui pensent que même avec plusieurs années d’expérience, on continue à apprendre ? Alors nous sommes sur la même longueur d'onde ! Et si on en parlait ?

Sujet de stage

L'inférence de modèle appliqué à un environnement contraint.

Les modèles actuellement utilisés tournent principalement sur plusieurs GPUs dans un avenir proche de nombreux cas d’usages émergeront avec une contrainte forte sur le hardware et son accessibilité.

Le WHY

L’occasion de travailler sur un cas concret tout en explorant un état de l’art plus proche de la réalité. Mettre ces services à disposition de tous devient nécessaire, mais aussi être capable de fournir ces capacités sans être dépendant des grands acteurs et de leurs APIs.

Les missions

• Cartographier les techniques d'optimisation pour LLM/VLM embarqués : quantification (int4/int8, GPTQ, AWQ), KV cache quantifié, décodage spéculatif, réduction des tokens visuels
• Comparer les runtimes et délégués matériels : ExecuTorch (CoreML/ANE, Metal, QNN), llama.cpp, MLX, vLLM, SGLang, Tensor-RT
• Implémenter un cas d'usage interne à données sensibles sur plusieurs paliers : poste M-series, smartphone, et serveur GPU interne selon disponibilité
• Mesurer les compromis : TTFT, tokens/s, RAM, énergie, qualité
• Produire une recommandation d'usage et un article OCTO

Le déroulement du stage

Étape 1 : Découverte et cadrage

• Faire de la veille bibliographique.
• Choisir un cas d’usage.
• Définir la roadmap avec les objectifs à réaliser.

Étape 2 : Montée en compétences

• Se former sur les hardwares à disposition.
• Exploration des possibilités existantes en relation avec le cas d’usage.

Étape 4 : Réalisation

• Réalisation de l'implémentation et du déploiement répondant aux cas d’usage.

Étape 5 : Partage

• Partage aux autres Octos pendant et à la fin du stage, rédaction d’un article et démonstration.

Stack technique : Python, Git, Linux, Pytorch

• Vous préparez un BAC+5 et vous êtes à la recherche d'un stage de fin d'études.
• Vous avez une appétence pour les sujets de Data Science et pour l’exploration de l’état de l’art.
• Vous avez déjà exploré des modèles, quelques contributions/projets/articles en open source.
• Vous souhaitez approfondir vos compétences en déploiement de modèles et en hardware.
• Vous faîtes preuve de curiosité, d'ambition et d'autonomie

Premier cabinet d’architectes IT fondé en 1998, pionnier du delivery agile et véritable concentrateur de talents. Nous incarnons les nouvelles façons de faire du conseil et du Delivery. Digital Doers & Thinkers est notre marque de fabrique. Nous privilégi ons aujourd'hui notre positionnement Agile & DeepTech et sommes engagés quant à notre responsabilité sociale et environnementale.

Et parce que nous savons qu’un job n’est pas “juste” un job, on vous partage aussi quelques petits + qui font notre différence :

Depuis 2022, nous sommes signataires de la Charte de l’Autre Cercle concernant l’inclusion des personnes LGBTQIA+ en entreprise (renouvelée en 2025), et depuis 2023 de la Charte de la Diversité et de l'Accord Handicap. En parallèle, tous les Octos participent à la Fresque de la Diversité dans le cadre de leur parcours de formation car nous avons à cœur de proposer un environnement toujours plus inclusif, pour toutes et tous.

Parce que ce ne sont pas que des mots, nous marquons au quotidien notre engagement en matière de numérique responsable : nous formons les Octos et nos clients à la Fresque du Climat / 2 Tonnes et œuvrons pour la sobriété numérique en interne et auprès de nos clients. Depuis 2021, nous sommes labellisés B Corp, et nous sommes fiers de renouveler cette certification toujours plus exigeante en 2025.

Lemanagementest un point central de notreculture. Les Octos managers sontforméspourvous accompagnerdans le développement de votre carrière.

Nous encourageons et soutenonsl’innovationpar laR&D. Au-delà d’unedirection Scientifiquedédiée, nous valorisons letemps hors missionpour partager ses connaissances : blog OCTO, talks, meet-up, livre blanc, BBL…en bref de l’open source alimenté par tous les Octos.

7 participations, 7 certifications et surtout 6 podiums au palmarès « Great Place To Work » : le bien-être et la progression des Octos sont vraiment au cœur de nos préoccupations.

PARENTALITÉ

Le sujet de laparentalitécompte aussi beaucoup à nos yeux.C’est pourquoi nous avons mis à disposition desplaces en crèche,ainsi que d’unepermanence parentalitépour les parents et futurs parents.

• Matériel au choix : ordinateur (PC ou Mac) et téléphone (Fairphone ou iPhone) ;
• Télétravail ;
• Possibilité d’augmentation chaque année, conditionnée par l’évaluation annuelle ;
• Et bien sûr : carte Swile, RTT, primes diverses (participation, vacances, cooptation, bonus basés sur les performances collectives).

Collaborer avec des personnes talentueuses issues de différents horizons. Aussi, ce que nous cherchons avant tout, ce sont des personnalités qui enrichiront OCTO.

En respectant l'égalité des chances, les candidatures sont examinées sans aucun préjugé quant à l'âge, l'ethnie, l'identité de genre, l’expression de genre, le handicap, la nationalité, la religion ou l'orientation sexuelle.