- Profesor: Raphaël Rubino
Résumé
Depuis plusieurs années, les avancées en traitement automatique du langage naturel (TALN) ont été amplifiées par la recherche et le développement des réseaux de neurones artificiels sur lesquels se reposent les grands modèles de langues actuels (« Large Language Models », ou LLMs).
Ce cours sur les LLMs, populairement appelés intelligence artificielle ou IA, propose tout d’abord une introduction générale à l’apprentissage automatique et à la représentation des données, deux points cruciaux permettant de modéliser les données, dont le langage naturel. Nous poursuivons et approfondissons ensuite l’étude des modèles de langue aux travers d’applications concrètes, que ce soit d’un point de vue académique mais aussi industriel et économique. Enfin, nous introduisons des notions plus techniques en programmation afin d’offrir aux étudiants les outils et connaissances nécessaires pour la compréhension, le développement et le déploiement de LLMs, et plus généralement pour la maîtrise des outils d’IA modernes.
Cet ensemble de connaissances permet la compréhension avancée des mécanismes et procédés pour l’entraînement, pour l’adaptation et l’affinage, et aussi pour l’utilisation de LLMs. Ce cours permet de fournir aux étudiants le savoir-faire actuellement recherché sur le marché de l’emploi en terme d’IA appliquée, car les demandes de l’industrie évoluent et incluent souvent des connaissances techniques relatives aux LLMs.
Mots clés
LLM, grands modèles de langage, apprentissage automatique, réseau de neurones, intelligence artificielle