Cette UE a pour ambition de faire une exploration en profondeur des modèles de séquence pour le traitement automatique du langage. Les applications envisagées sont la traduction automatique, la génération de texte, résumé automatique, les agents conversationnels, la reconnaissance de la parole. Seront vues en détails les représentations de mots (méthodes d’apprentissage des embeddings), les différentes architectures récurrentes, bidirectionnelles, multicouches, ainsi que les mécanismes d’attention (pointer networks, copynets), les réseaux à mémoire, etc.
