Stagiaire chercheur - Algorithmes d'Optimisation LLM

Huawei Canada recrute immédiatement pour un poste de Chercheur dans le cadre d'un stage.

À propos de l'équipe :

Fondé en 2012, le laboratoire Noah's Ark est devenu une organisation de recherche de premier plan avec des réalisations notables dans le milieu universitaire et industriel. La mission du laboratoire se concentre sur l'avancement de l'intelligence artificielle et des domaines connexes pour bénéficier à l'entreprise et à la société. Animé par des projets impactants à long terme, l'objectif est d'améliorer la recherche de pointe tout en intégrant des innovations dans les produits et services de l'entreprise, y compris les LLM, RL, NLP, la vision par ordinateur, la théorie de l'IA et la conduite autonome.

À propos du poste :

• Développement et implémentation de nouveaux algorithmes d'optimisation pour l'entraînement des LLM.

• Réalisation d'expériences à grande échelle pour valider et évaluer les algorithmes proposés par rapport à l'état de l'art actuel.

• Présentation des résultats et rédaction d'articles scientifiques pour les principales conférences en IA/ML.

Profil du candidat idéal :

• Actuellement doctorant ou étudiant en maîtrise en informatique ou domaines connexes, avec un accent sur les algorithmes d'optimisation et l'entraînement des LLM.

• Connaissance des architectures LLM actuelles, telles que Transformer et Mamba.

• Compréhension approfondie des fondamentaux et des techniques de pointe de l'optimisation numérique, tels qu'ils sont actuellement appliqués aux modèles d'apprentissage profond (par ex. théorie de l'optimisation non convexe, SGD, AdamW).

• Solides compétences en programmation pratique avec de l'expérience dans la mise en œuvre et la personnalisation d'algorithmes d'optimisation pour les modèles d'apprentissage profond en utilisant des bibliothèques telles que PyTorch.

• Publication en tant que premier auteur dans des conférences ou revues de ML de premier plan, telles que NeurIPS, ICML, ICLR, JMLR, etc., est un plus.