{"id":3284,"date":"2018-10-19T09:20:45","date_gmt":"2018-10-19T07:20:45","guid":{"rendered":"https:\/\/www.systransoft.com\/?post_type=paper&#038;p=3284"},"modified":"2023-11-16T18:03:18","modified_gmt":"2023-11-16T17:03:18","slug":"analyzing-knowledge-distillation-in-neural-machine-translation","status":"publish","type":"paper","link":"https:\/\/www.systransoft.com\/fr\/ressources\/papers-and-publications\/analyzing-knowledge-distillation-in-neural-machine-translation\/","title":{"rendered":"Analyse de la distillation des connaissances dans la traduction automatique neuronale"},"content":{"rendered":"<p>La distillation des connaissances a r\u00e9cemment \u00e9t\u00e9 appliqu\u00e9e avec succ\u00e8s \u00e0 la traduction automatique neuronale. Il permet essentiellement de construire des r\u00e9seaux r\u00e9tr\u00e9cis tandis que les syst\u00e8mes r\u00e9sultants conservent la plupart de la qualit\u00e9 du mod\u00e8le original. Malgr\u00e9 le fait que de nombreux auteurs rapportent les avantages de la distillation des connaissances, peu d'\u0153uvres discutent des raisons r\u00e9elles pour lesquelles elle fonctionne, en particulier dans le contexte de la MT neuronale. Dans cet article, nous menons plusieurs exp\u00e9riences visant \u00e0 comprendre pourquoi et comment la distillation affecte la pr\u00e9cision sur une t\u00e2che de traduction anglais-allemand. Nous montrons que la complexit\u00e9 de traduction est en fait r\u00e9duite lors de la construction d'un bi-texte distill\u00e9\/synth\u00e9tis\u00e9 par rapport au bi-texte de r\u00e9f\u00e9rence. Nous supprimons en outre les donn\u00e9es bruit\u00e9es des traductions synth\u00e9tis\u00e9es et fusionnons les donn\u00e9es synth\u00e9tis\u00e9es filtr\u00e9es avec la r\u00e9f\u00e9rence originale, obtenant ainsi des gains de pr\u00e9cision suppl\u00e9mentaires.<\/p>","protected":false},"excerpt":{"rendered":"<p>La distillation des connaissances a r\u00e9cemment \u00e9t\u00e9 appliqu\u00e9e avec succ\u00e8s \u00e0 la traduction automatique neuronale. Il permet essentiellement de construire des r\u00e9seaux r\u00e9tr\u00e9cis tandis que les syst\u00e8mes r\u00e9sultants conservent la plupart de la qualit\u00e9 du mod\u00e8le original. Malgr\u00e9 le fait que de nombreux auteurs parlent des avantages de la distillation de la connaissance, peu d'\u0153uvres discutent des raisons r\u00e9elles pour lesquelles elle fonctionne, surtout dans le contexte... <a href=\"https:\/\/www.systransoft.com\/fr\/ressources\/papers-and-publications\/analyzing-knowledge-distillation-in-neural-machine-translation\/\">Suite<\/a><\/p>","protected":false},"featured_media":0,"template":"","class_list":["post-3284","paper","type-paper","status-publish","hentry"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.systransoft.com\/fr\/wp-json\/wp\/v2\/paper\/3284","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.systransoft.com\/fr\/wp-json\/wp\/v2\/paper"}],"about":[{"href":"https:\/\/www.systransoft.com\/fr\/wp-json\/wp\/v2\/types\/paper"}],"wp:attachment":[{"href":"https:\/\/www.systransoft.com\/fr\/wp-json\/wp\/v2\/media?parent=3284"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}