- Teacher: Lorenzo Bini
- Teacher: Tanja Samardzic
- Teacher: Genis Skura
Ce cours se propose de vous donner un aperçu des applications du deep learning en traitement du langage naturel.
Thèmes :
- Évolution du TALN, interdisciplinarité, rôle dans l'économie et dans la société
- Types de traitement, ensembles de données, mesures de la performance et du progrès
- Encodage de texte avec Transformers
- Modèles de langage: de la grammaire au contenu
- Récurrence, convolution, attention dans la modélisation du langage
- L'utilisation des modèles pré-entraînés (LLMs)
- Qu'est-ce que le savoir linguistique ?
- Diversité linguistique et TALN
Le contenu détaillé: https://github.com/tsamardzic/nlp_intro