Stage Évaluation des performances et de l'efficacité énergétique des LLMs pour détection d'intr[...]

Orange SA; Châtillon; Sur place; EUR 20 000 - 40 000; Plein temps

Résumé du poste

Une entreprise de télécommunications recherche un stagiaire en Intelligence Artificielle pour travailler sur la détection d'intrusion. Les candidats doivent avoir une formation Bac + 5 et des compétences solides en IA, maîtriser Python et C/C++, ainsi que des connaissances en cybersécurité. Ce stage offre l'opportunité de collaborer sur un projet innovant impliquant des LLM et des graphes de connaissances.

Qualifications

• Formations pertinentes en Intelligence Artificielle.
• Maitrise en Python et C/C++.
• Connaissances additionnelles en cybersécurité requises.

Responsabilités

• Identifier les métriques de performance et de consommation d’énergie.
• Évaluer l’impact de la taille et de la quantification des modèles LLM.
• Concevoir des benchmarks des performances des embeddings de graphes de connaissances.
• Fournir des recommandations pour équilibrer consommation d’énergie et précision.

Connaissances

Compétences en IA

Maîtrise de Python

Maîtrise de C/C++

Connaissance de Pytorch

Connaissances en cybersécurité

Connaissances en architecture processeurs

Autonomie

Curiosité

Persévérance

Formation

Formation Bac + 5 (ingénieur ou équivalent)

Description du poste

about the role

La combinaison des LLM et des graphes de connaissances (KGs) est une solution prometteuse pour les systèmes de détection d’intrusion où les LLM extraient des entités et des relations à partir d’entrées non structurées (journaux, rapports) en exploitant le contexte fourni par les KGs sous forme de triplets structurés composés de sujet, objet et relation. Cela complète le RAG (Retrieval Augmented Generation) traditionnel. Pour que les LLM soient appliqués efficacement dans les workflows de cybersécurité d’une organisation, l’analyse en temps opportun de la détection des menaces est cruciale, mais leur utilisation doit être économe en énergie. Les directions à suivre sont les petits modèles de langage qui sont moins gourmands en ressources en termes de calcul et de mémoire, la quantification des modèles et une implémentation efficace de l’inférence. Ces méthodes peuvent aider à réduire la latence lors de la détection des menaces, tout en réduisant les impacts énergétiques. Ce stage sera réalisé dans le cadre d’un projet interne visant à concevoir une solution pour la détection des mouvements latéraux. En collaboration avec d’autres membres de l’équipe en charge du design d’une architecture à abse de LLM et de base de connaissance, votre mission spécifique consiste à:

• Identifier les métriques pertinentes pour la performance (latence, débit) et pour la consommation d’énergie lors de la génération LLM et de la récupération du contexte
• Évaluer l’impact de la taille du modèle LLM et de la quantification du modèle
• Concevoir des benchmarks et évaluer la performance des embeddings de graphes de connaissances
• Fournir des recommandations pour atteindre un compromis entre la consommation d’énergie et la précision de détection

about you

Formation Bac + 5 (ingénieur ou équivalent)

• Vous avez des compétences dans le domaine de l'IA
• Vous maitrisez les langages de programmation Python, C/C++, et frameworks IA tel Pytorch
• Vous avez des connaissances au niveau de la cybersécurité
• Vous avez des connaissances au niveau de l'architecture processeur et système d'exploitation
• Vous faites preuve de curiosité et de persévérance
• Vous savez travailler en autonomie et vous êtes capable de prendre des initiatives