Нейронный машинный перевод: как работает NMT и что изменили LLM

Нейронный машинный перевод (NMT) — технология, при которой текст переводит нейронная сеть, обученная на миллионах пар предложений. С 2016 года NMT — отраслевой стандарт: именно он дал переводу естественную беглость, которой не хватало статистическим системам.

Почему NMT переводит лучше предшественников

Статистические системы собирали перевод из фраз, как мозаику, — на стыках возникали швы. Нейронная сеть обрабатывает предложение целиком: архитектура Transformer с механизмом внимания учитывает связи между любыми словами, независимо от расстояния между ними. Поэтому NMT корректно передаёт согласование, порядок слов и устойчивые конструкции.

Качество нейронного перевода определяется данными: модель, дообученная на параллельных корпусах заказчика, воспроизводит принятую терминологию и формулировки. Именно поэтому обучение машинных движков на ваших материалах даёт больший прирост, чем смена «магазинного» движка.

Что добавили большие языковые модели

LLM — следующий шаг той же архитектуры. Отличия практические: контекстное окно вмещает документ целиком, модель следует инструкциям — глоссарию, стилевому гайду, требованиям отрасли — и умеет объяснять свои решения, что используется в автоматической постредактуре и контроле качества. В промышленной цепочке NMT и LLM работают вместе: первый даёт скорость на потоке, вторые — точность на сложных фрагментах.