@inproceedings{ferret-2022-decontextualiser,
title = "D{\'e}contextualiser des plongements contextuels pour construire des th{\'e}saurus distributionnels (Decontextualizing contextual embeddings for building distributional thesauri )",
author = "Ferret, Olivier",
editor = "Est{\`e}ve, Yannick and
Jim{\'e}nez, Tania and
Parcollet, Titouan and
Zanon Boito, Marcely",
booktitle = "Actes de la 29e Conf{\'e}rence sur le Traitement Automatique des Langues Naturelles. Volume 1 : conf{\'e}rence principale",
month = "6",
year = "2022",
address = "Avignon, France",
publisher = "ATALA",
url = "https://aclanthology.org/2022.jeptalnrecital-taln.31/",
pages = "315--324",
language = "fra",
abstract = "M{\^e}me si les mod{\`e}les de langue contextuels sont aujourd`hui dominants en traitement automatique des langues, les repr{\'e}sentations qu`ils construisent ne sont pas toujours adapt{\'e}es {\`a} toutes les utilisations. Dans cet article, nous proposons une nouvelle m{\'e}thode pour construire des plongements statiques {\`a} partir de mod{\`e}les contextuels. Cette m{\'e}thode combine la g{\'e}n{\'e}ralisation et l`agr{\'e}gation des repr{\'e}sentations contextuelles. Nous l'{\'e}valuons pour un large ensemble de noms en anglais dans la perspective de la construction de th{\'e}saurus distributionnels pour l`extraction de relations de similarit{\'e} s{\'e}mantique. Finalement, nous montrons que les repr{\'e}sentations ainsi construites et les plongements statiques natifs peuvent {\^e}tre compl{\'e}mentaires."
}<?xml version="1.0" encoding="UTF-8"?>
<modsCollection xmlns="http://www.loc.gov/mods/v3">
<mods ID="ferret-2022-decontextualiser">
<titleInfo>
<title>Décontextualiser des plongements contextuels pour construire des thésaurus distributionnels (Decontextualizing contextual embeddings for building distributional thesauri )</title>
</titleInfo>
<name type="personal">
<namePart type="given">Olivier</namePart>
<namePart type="family">Ferret</namePart>
<role>
<roleTerm authority="marcrelator" type="text">author</roleTerm>
</role>
</name>
<originInfo>
<dateIssued>2022-06</dateIssued>
</originInfo>
<typeOfResource>text</typeOfResource>
<language>
<languageTerm type="text">fra</languageTerm>
</language>
<relatedItem type="host">
<titleInfo>
<title>Actes de la 29e Conférence sur le Traitement Automatique des Langues Naturelles. Volume 1 : conférence principale</title>
</titleInfo>
<name type="personal">
<namePart type="given">Yannick</namePart>
<namePart type="family">Estève</namePart>
<role>
<roleTerm authority="marcrelator" type="text">editor</roleTerm>
</role>
</name>
<name type="personal">
<namePart type="given">Tania</namePart>
<namePart type="family">Jiménez</namePart>
<role>
<roleTerm authority="marcrelator" type="text">editor</roleTerm>
</role>
</name>
<name type="personal">
<namePart type="given">Titouan</namePart>
<namePart type="family">Parcollet</namePart>
<role>
<roleTerm authority="marcrelator" type="text">editor</roleTerm>
</role>
</name>
<name type="personal">
<namePart type="given">Marcely</namePart>
<namePart type="family">Zanon Boito</namePart>
<role>
<roleTerm authority="marcrelator" type="text">editor</roleTerm>
</role>
</name>
<originInfo>
<publisher>ATALA</publisher>
<place>
<placeTerm type="text">Avignon, France</placeTerm>
</place>
</originInfo>
<genre authority="marcgt">conference publication</genre>
</relatedItem>
<abstract>Même si les modèles de langue contextuels sont aujourd‘hui dominants en traitement automatique des langues, les représentations qu‘ils construisent ne sont pas toujours adaptées à toutes les utilisations. Dans cet article, nous proposons une nouvelle méthode pour construire des plongements statiques à partir de modèles contextuels. Cette méthode combine la généralisation et l‘agrégation des représentations contextuelles. Nous l’évaluons pour un large ensemble de noms en anglais dans la perspective de la construction de thésaurus distributionnels pour l‘extraction de relations de similarité sémantique. Finalement, nous montrons que les représentations ainsi construites et les plongements statiques natifs peuvent être complémentaires.</abstract>
<identifier type="citekey">ferret-2022-decontextualiser</identifier>
<location>
<url>https://aclanthology.org/2022.jeptalnrecital-taln.31/</url>
</location>
<part>
<date>2022-6</date>
<extent unit="page">
<start>315</start>
<end>324</end>
</extent>
</part>
</mods>
</modsCollection>
%0 Conference Proceedings
%T Décontextualiser des plongements contextuels pour construire des thésaurus distributionnels (Decontextualizing contextual embeddings for building distributional thesauri )
%A Ferret, Olivier
%Y Estève, Yannick
%Y Jiménez, Tania
%Y Parcollet, Titouan
%Y Zanon Boito, Marcely
%S Actes de la 29e Conférence sur le Traitement Automatique des Langues Naturelles. Volume 1 : conférence principale
%D 2022
%8 June
%I ATALA
%C Avignon, France
%G fra
%F ferret-2022-decontextualiser
%X Même si les modèles de langue contextuels sont aujourd‘hui dominants en traitement automatique des langues, les représentations qu‘ils construisent ne sont pas toujours adaptées à toutes les utilisations. Dans cet article, nous proposons une nouvelle méthode pour construire des plongements statiques à partir de modèles contextuels. Cette méthode combine la généralisation et l‘agrégation des représentations contextuelles. Nous l’évaluons pour un large ensemble de noms en anglais dans la perspective de la construction de thésaurus distributionnels pour l‘extraction de relations de similarité sémantique. Finalement, nous montrons que les représentations ainsi construites et les plongements statiques natifs peuvent être complémentaires.
%U https://aclanthology.org/2022.jeptalnrecital-taln.31/
%P 315-324
Markdown (Informal)
[Décontextualiser des plongements contextuels pour construire des thésaurus distributionnels (Decontextualizing contextual embeddings for building distributional thesauri )](https://aclanthology.org/2022.jeptalnrecital-taln.31/) (Ferret, JEP/TALN/RECITAL 2022)
ACL