Adaptation de Domaine Simple pour la Recherche Parcimonieuse

Mathias Vast
Yuxuan Zong
Basile Van Cooten
Benjamin Piwowarski
Laure Soulier
DOI
10.24348/coria.2024.abstract_5
Résumé

Dans le cadre de la Recherche d’Information (RI), l’apprentissage des modèles repose fortement sur l’approche “pré-entraîner puis affiner”. Malgré ces très bons résultats, cette méthode nécessite d’avoir accès à un jeu de données labelisées ce qui complique son application à de nouveaux domaines ou langues, en particulier si ceux-ci sont faiblement fournis. Cet article propose une solution simple au transfert d’un modèle de recherche parcimonieux, SPLADE, vers des domaines sans données labelisées.