{"id":3284,"date":"2018-10-19T09:20:45","date_gmt":"2018-10-19T07:20:45","guid":{"rendered":"https:\/\/www.systransoft.com\/?post_type=paper&#038;p=3284"},"modified":"2023-11-16T18:03:18","modified_gmt":"2023-11-16T17:03:18","slug":"analyzing-knowledge-distillation-in-neural-machine-translation","status":"publish","type":"paper","link":"https:\/\/www.systransoft.com\/de\/ressourcen\/papers-and-publications\/analyzing-knowledge-distillation-in-neural-machine-translation\/","title":{"rendered":"Analyse der Wissensdestillation in der neuronalen maschinellen \u00dcbersetzung"},"content":{"rendered":"<p>Die Wissensdestillation wurde k\u00fcrzlich erfolgreich auf die neuronale maschinelle \u00dcbersetzung angewendet. Es erm\u00f6glicht im Wesentlichen den Aufbau verkleinerter Netzwerke, w\u00e4hrend die resultierenden Systeme den gr\u00f6\u00dften Teil der Qualit\u00e4t des urspr\u00fcnglichen Modells beibehalten. Obwohl viele Autoren \u00fcber die Vorteile der Wissensdestillation berichten, diskutieren nur wenige Werke die eigentlichen Gr\u00fcnde, warum sie funktioniert, insbesondere im Kontext des neuronalen MT. In diesem Beitrag f\u00fchren wir mehrere Experimente durch, um zu verstehen, warum und wie sich die Destillation auf die Genauigkeit einer englisch-deutschen \u00dcbersetzungsaufgabe auswirkt. Wir zeigen, dass die \u00dcbersetzungskomplexit\u00e4t beim Erstellen eines destillierten\/synthetisierten Biotexts im Vergleich zum Referenz-Biotext tats\u00e4chlich reduziert wird. Wir entfernen au\u00dferdem verrauschte Daten aus synthetisierten \u00dcbersetzungen und f\u00fchren gefilterte synthetisierte Daten mit Originalreferenzen zusammen, wodurch zus\u00e4tzliche Genauigkeitsgewinne erzielt werden.<\/p>","protected":false},"excerpt":{"rendered":"<p>Die Wissensdestillation wurde k\u00fcrzlich erfolgreich auf die neuronale maschinelle \u00dcbersetzung angewendet. Es erm\u00f6glicht im Grunde den Aufbau von geschrumpften Netzwerken, w\u00e4hrend die resultierenden Systeme den gr\u00f6\u00dften Teil der Qualit\u00e4t des urspr\u00fcnglichen Modells behalten. Trotz der Tatsache, dass viele Autoren \u00fcber die Vorteile der Wissensdestillation berichten, diskutieren nur wenige Werke die tats\u00e4chlichen Gr\u00fcnde, warum es funktioniert, vor allem im Kontext ... <a href=\"https:\/\/www.systransoft.com\/de\/ressourcen\/papers-and-publications\/analyzing-knowledge-distillation-in-neural-machine-translation\/\">Fortsetzung<\/a><\/p>","protected":false},"featured_media":0,"template":"","class_list":["post-3284","paper","type-paper","status-publish","hentry"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.systransoft.com\/de\/wp-json\/wp\/v2\/paper\/3284","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.systransoft.com\/de\/wp-json\/wp\/v2\/paper"}],"about":[{"href":"https:\/\/www.systransoft.com\/de\/wp-json\/wp\/v2\/types\/paper"}],"wp:attachment":[{"href":"https:\/\/www.systransoft.com\/de\/wp-json\/wp\/v2\/media?parent=3284"}],"curies":[{"name":"WP","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}