Prédire l'aspect linguistique en anglais au moyen de transformers - Conférences TALN RECITAL Accéder directement au contenu
Communication Dans Un Congrès Année : 2021

Prédire l'aspect linguistique en anglais au moyen de transformers

Résumé

L’aspect du verbe décrit la manière dont une action, un événement ou un état exprimé par un verbe est lié au temps ; la télicité est la propriété d’un syntagme verbal qui présente une action ou un événement comme étant mené à son terme ; la durée distingue les verbes qui expriment une action (dynamique) ou un état (statique). Ces caractéristiques essentielles à l’interprétation du langage naturel, sont également difficiles à annoter et à identifier par les méthodes de TAL. Dans ce travail, nous estimons la capacité de différents modèles de type transformers pré-entraînés (BERT, RoBERTa, XLNet, ALBERT) à prédire la télicité et la durée. Nos résultats montrent que BERT est le plus performant sur les deux tâches, tandis que les modèles XLNet et ALBERT sont les plus faibles. Par ailleurs, les performances de la plupart des modèles sont améliorées lorsqu’on leur fournit en plus la position des verbes. Globalement, notre étude établit que les modèles de type transformers captent en grande partie la télicité et la durée.
Fichier principal
Vignette du fichier
37.pdf (246.53 Ko) Télécharger le fichier
Origine : Fichiers éditeurs autorisés sur une archive ouverte

Dates et versions

hal-03265894 , version 1 (23-06-2021)

Identifiants

  • HAL Id : hal-03265894 , version 1

Citer

Eleni Metheniti, Tim van de Cruys, Nabil Hathout. Prédire l'aspect linguistique en anglais au moyen de transformers. 28e conférence annuelle sur le Traitement Automatique des Langues Naturelles (TALN-2021), Jun 2021, Lille, France. pp.209-218. ⟨hal-03265894⟩
160 Consultations
67 Téléchargements

Partager

Gmail Facebook X LinkedIn More