Статистический машинный перевод

Статистический машинный перевод (англ. Statistical machine translation — SMT) — разновидность машинного перевода, где перевод генерируется на основе статистических моделей, параметры которых являются производными от анализа двуязычных корпусов текста (text corpora).

Уровни обработки языковых данных

Статистический машинный перевод противопоставляют системам машинного перевода, основанным на правилах Rule-Based Machine Translation (RBMT) и на примерах Example-Based MT (EBMT).

Первые идеи статистического машинного перевода были опубликованы Уорреном Уивером (Warren Weaver), в 1949 году. «Вторая волна» — начало 1990-х, IBM. «Третья волна» — Google, Microsoft, Language Weaver, Яндекс.

Разработчики систем машинного перевода для улучшения качества вводят некоторые «сквозные» правила, тем самым превращая чисто статистические системы в Гибридный машинный перевод. Добавление некоторых правил, то есть создание гибридных систем, несколько улучшает качество переводов, особенно при недостаточном объёме входных данных, используемых при построении индекса машинного переводчика.

Преимущества SMT

• Быстрая настройка
• Легко добавлять новые направления перевода
• Гладкость перевода

Недостатки SMT

• «Дефицит» параллельных корпусов
• Многочисленные грамматические ошибки
• Нестабильность перевода

Языковые модели

В качестве языковой модели в системах статистического перевода используются преимущественно различные модификации n-граммной модели, утверждающей, что «грамматичность» выбора очередного слова при формировании текста определяется только тем, какие (n-1) слов идут перед ним.

• n-граммы.
  • Достоинства: — высокое качество перевода для фраз, которые целиком помещаются в n-граммную модель.
  • Недостатки: — качественный перевод возможен только для фраз, которые целиком помещаются в n-граммную модель.

Статистические модели перевода

• по словам (Word-based translation — WBT)
• по фразам (Phrase-based translation — PBT)
• по синтаксису (Syntax-based translation — SBT)
• по иерархическим фразам (Hierarchical phrase-based translation — HPBT)

См. также

• Автоматический перевод устной речи
• Макото Нагао