Bylo dokázáno, že přetrénování natrénovaných modelů vede k zlepšení strojového překladu. Existující metody potřebují, aby zkoumané jazykové páry byly lingvisticky podobné.
My představujeme přístup, který nepotřebuje lingvistickou podobnost jazyků ani specifické trénovací kroky.