Предметы и задачи компьютерной лингвистики

Важной и перспективной  задачей компьютерной лингвистики  является построение лингвистических  процессоров, обеспечивающих общение  пользователей с интеллектуальными  автоматизированными информационными  системами (в частности с экспертными  системами) на естественном языке или  на языке, близком к естественному. Поскольку в современных интеллектуальных системах информация хранится в формализованном виде, то лингвистические процессоры, выполняя роль посредников между человеком и ЭВМ, должны решать следующие основные задачи: 1) задачу перехода от текстов входных информационных запросов и сообщений на естественном языке к представлению их смысла на формализованном языке (при вводе информации в ЭВМ); 2) задачу перехода от формализованного представления смысла выходных сообщений к его представлению на естественном языке (при выдаче информации человеку). Первая задача должна решаться путем морфологического, синтаксического и концептуального анализа входных запросов и сообщений, вторая - путем концептуального, синтаксического и морфологического синтеза выходных сообщений.

Концептуальный анализ информационных запросов и сообщений состоит  в выявлении их понятийной структуры (границ наименований понятий и отношений  между понятиями в тексте) и  переводе этой структуры на формализованный  язык. Он проводится после морфологического и синтаксического анализа запросов и сообщений. Концептуальный синтез сообщений состоит в переходе от представления элементов их структуры  на формализованном языке к вербальному (словесному) представлению. После этого  сообщениям дается необходимое синтаксическое и морфологическое оформление.

Для машинного перевода текстов  с одних естественных языков на другие необходимо располагать словарями  переводных соответствий между наименованиями понятий. Знания о таких переводных соответствиях накапливались многими  поколениями людей и оформлялись  в виде специальных изданий - двуязычных или многоязычных словарей. Для специалистов, владеющих в той или иной мере иностранными языками, эти словари  служили ценными пособиями при  переводе текстов.

В традиционных двуязычных и многоязычных словарях общего назначения переводные эквиваленты указывались  преимущественно для отдельных  слов, для словосочетаний - значительно  реже. Указание переводных эквивалентов для словосочетаний было более характерно для специальных терминологических  словарей. Поэтому при переводе отрезков текстов, содержащих многозначные слова, у обучаемых часто возникали затруднения.

Ниже приведены переводные соответствия между несколькими  парами английских и русских фраз по «школьной» тематике.

1) The bat looks like a mouse with wings - Летучая мышь похожа на мышь с крыльями.

2) Children like to play in the sand on the beach - Дети любят играть в песке на берегу моря.

3) A drop of rain fell on my hand - Капля дождя упала мне на руку.

4) Dry wood burns easily - сухие дрова хорошо горят.

5) He pretended not to hear me - Он делал вид, что не слышит меня.

Здесь английские фразы не являются идиоматическими выражениями. Тем не менее, их перевод на русский  язык лишь с некоторой натяжкой можно  рассматривать как простой пословный  перевод, так как почти все  входящие в них слова многозначные. Поэтому здесь обучаемым способны помочь только достижения компьютерной лингвистики.

Ниже будут рассмотрены  основные системы машинного перевода, способные помогать обучаемым при изучении языка.

2. Современные  интерфейсы компьютерной лингвистики

Первые эксперименты по машинному  переводу, подтвердившие принципиальную возможность его реализации, были проведены в 1954 г. в Джорджтаунском университете (г. Вашингтон, США). Вскоре после этого в промышленно развитых странах мира были начаты исследования и разработки, направленные на создание систем машинного перевода (систем МП). И хотя с тех пор прошло полстолетия, проблема машинного перевода все еще не решена на должном уровне. Она оказалась значительно сложнее, чем это представляли себе пионеры и энтузиасты МП конца пятидесятых - начала шестидесятых годов прошлого века.

Из достижений компьютерной лингвистики следует выделить, прежде всего, систему под названием RETRANS. Первая промышленная версия этой системы  была разработана в 1993 году и стала  использоваться в ряде государственных  учреждений России, Франции, США и  Англии. После этого было создано  еще несколько версий системы. До 1998 г. все они были предназначены  для работы в среде операционной системы MS DOS, а в 1998-2000 г.г. были адаптированы для операционных систем Windows 9x/NT и различных вариантов UNIX (Linux, Solaris и др.).

В 2001 г. тем же авторским  коллективом была разработана новая  версия системы фразеологического  машинного перевода RETRANS. Эта версия реализована в нескольких модификациях:

1. Система, работающая  в среде текстового процессора MS Word-2000.

2. Система, работающая  в среде Web-браузера MS Internet Explorer.

3. Система, работающая  с любыми Windows-приложениями, способными  копировать текст в «Буфер  Обмена» (Clipboard).

Первая модификация системы  обладает тем достоинством, что человек, имеющий опыт работы с редактором типа Word, может с помощью этой. При этом он может пользоваться всеми возможностями редактора Word.

Вторая модификация системы  может служить эффективным средством  общения с системой Internet для лиц, знающих русский язык, но не знающих английского, или, наоборот, знающих английский язык, но не знающих русского. Она может также использоваться для перевода любых документов, представленных в виде Web-страниц (например, электронной версии Британской Энциклопедии). При этом во всех случаях сохраняется внешний вид переведенной страницы.

Третья модификация системы  может быть полезна при работе с простыми программами типа MS Notepad, MS Wordpad, MS Paint и им подобными, а также при обработке различных электронных форм.

В случае необходимости, на одной ЭВМ могут устанавливаться  несколько модификаций системы RETRANS одновременно. При этом ядро процедурных  средств и словарные средства системы будут представлены только в одном экземпляре.

Основные политематические машинные словари системы Retrans (русско-английский и англо-русский) включают в свой состав терминологию по естественным и техническим наукам, экономике, бизнесу, политике, законодательству и военному делу.

Кроме основных политематических машинных словарей в состав системы RETRANS входят двенадцать дополнительных тематических словарей, включающих лексику  родственных тематик. Эти словари  содержат словарные статьи только тех  слов и словосочетаний из политематических словарей, которые в рамках каждой тематической группы имеют приоритетные переводные эквиваленты, отличные от приоритетных переводных эквивалентов основных словарей. В дополнительных тематических словарях лексические единицы (слова и  словосочетания)могут иметь не более двух переводных эквивалентов (в политематическом словаре их может быть до пяти).

Средства автоматизированного  пополнения и настройки машинных словарей, созданные на начальных  этапах разработки системы RETRANS, сыграли  большую роль в ее дальнейшем развитии. Но опыт практической эксплуатации этой системы выявил необходимость введения некоторых изменений в структуру  словарей. Наряду с основными политематическими  и дополнительными тематическими  словарями системы были введены  еще и дополнительные словари  пользователей. При этом имелось  в виду, что при переводе текстов  с одного языка на другой одновременно используются три словаря: основной политематический словарь, один из дополнительных тематических словарей и один из словарей пользователей.

Словарь пользователя (СП) служит для тонкой настройки системы  машинного перевода, выполняемой  самим пользователем при переводе текстов по конкретной тематике. Кроме того, СП дает возможность использовать при переводе ранее накопленные словарные массивы. В отличие от основного политематического словаря и дополнительных тематических словарей, содержимое которых может изменяться только разработчиками системы машинного перевода, словарь пользователя может создаваться и изменяться пользователем по своему усмотрению.

По структуре словарных  статей словарь пользователя аналогичен основному политематическому и  дополнительным тематическим словарям, но он отличается от них количеством  возможных вариантов перевода, указываемых  для входных наименований понятий. Здесь для каждого входного наименования понятия может указываться только один вариант перевода. Отличается словарь пользователя также и  способом его хранения в файле. Это  связано с необходимостью оперативного изменения содержимого словаря, и тем, что его объем значительно  меньше, чем объем словарей других типов.

Каждая запись СП описывает  наименование одного понятия исходного  языка, которое может иметь длину  от одного до 17-тислов. Его переводной эквивалент также может иметь  длину от одного до 17-ти слов. Словарь  может включать до 65 тысяч словарных  статей.

Пользователь системы RETRANS может создавать практически  неограниченное количество своих словарей по различным тематикам, но в процессе перевода конкретного текста используется только один словарь. При необходимости, можно объединить несколько словарей в один словарь.

В интерактивном режиме работы пользователь имеет возможность  просматривать все варианты перевода слов и словосочетаний содержащиеся в словарях, изменять их приоритет, добавлять новые переводные эквиваленты, а также выполнять другие операции над промежуточными результатами перевода. В промежуточных результатах  перевода эквивалент, выбранный из СП, будет стоять первым в списке возможных вариантов перевода наименования понятия. Затем будут располагаться  варианты перевода, выбранные из дополнительного  тематического словаря, в том  порядке, в котором они записаны в словаре. За ними - варианты перевода из основного политематического словаря.

Тем же авторским коллективом  разработана новая версия системы  фразеологического машинного перевода, получившая название «система Vista». Эта версия реализована в нескольких модификациях:

1. Система, работающая  в среде текстового процессора MS Word 2000 (система Word Vista).

2. Система, работающая  в среде Web-браузера MS Internet Explorer5.0 и выше (система Web Vista).

3. Система массового обслуживания, устанавливаемая на сервере IIS 4.0 и выше и используемая в  режиме удаленного доступа стандартными Windows-клиентами (например, MS Word, MS Internet Explorer и любыми другими приложениями, способными копировать текст в «Буфер Обмена») на основе протоколаHTTP (т.е. работающая как в среде Internet, так и в среде Intranet).Эта система получила название Net Vista.

4. Система, работающая  с любыми Windows-приложениями, способными  копировать текст в «Буфер  Обмена» (Clipboard). Эта система получила название Clip Vista.

Система Word Vista обладает тем достоинством, что человек, имеющий опыт работы с редактором типа Word, может с помощью этой системы начать перевод текстов практически без предварительной подготовки. При этом он может пользоваться всеми возможностями редактора Word.

Система Web Vista может оказаться незаменимым средством общения с системой Internet для лиц, знающих русский язык, но не знающих английского, или, наоборот, знающих английский язык, но не знающих русского. Она может также использоваться для перевода любых документов, представленных в виде Web-страниц (например, электронной версии Британской Энциклопедии). При этом во всех случаях сохраняется внешний вид переведенной страницы.

Система Net Vista позволяет пользователям, расположенным в любой точке земного шара, осуществлять перевод текстов с русского языка на английский и с английского на русский в режиме удаленного доступа к этой системе. При этом сами текстовые документы могут храниться в любой другой точке земного шара, а перевод выполняться в третьей точке.

Система Clip Vista может быть полезна при работе с простыми программами типа MS Notepad, MS Wordpad, MS Paint и им подобными, а также при обработке различных электронных форм, например, при заполнении резюме или вводе поискового запроса, если требуется использовать другой язык.

В случае необходимости, на ЭВМ пользователя могут устанавливаться  несколько модификаций системы  Vista одновременно. При этом ядро процедурных средств и словарные средства системы будут установлены только в одном экземпляре.

Основные политематические машинные словари системы Vista (русско-английский и англо-русский) включают в свой состав терминологию по естественным и техническим наукам, экономике, бизнесу, политике, законодательству и военному делу.

Кроме основных политематических машинных словарей в состав системы  Vista входят двенадцать дополнительных тематических словарей, включающих лексику родственных тематик. Эти словари содержат словарные статьи только тех слов и словосочетаний из политематических словарей, которые в рамках каждой тематической группы имеют приоритетные переводные эквиваленты, отличные от приоритетных переводных эквивалентов основных словарей. В дополнительных тематических словарях лексические единицы (слова и словосочетания)могут иметь не более двух переводных эквивалентов (в политематическом словаре их может быть до пяти).

В процессе перевода текстов  поиск переводных эквивалентов лексических  единиц, входящих в их состав, ведется  в политематическом словаре и  в одном из дополнительных тематических словарей (по выбору пользователя). При  синтезе выходного текста переводные эквиваленты дополнительного словаря  считаются более приоритетными, чем переводные эквиваленты политематического словаря.

Машинные словари  системы VISTA могут корректироваться и пополняться в процессе перевода текстов в интерактивном режиме. В этом режиме есть возможность обнаруживать слова и словосочетания, для которых в словаре не указаны переводные эквиваленты или эти эквиваленты не соответствуют контексту или указано несколько эквивалентов, но на первом месте стоит эквивалент, не соответствующий контексту. В случае отсутствия переводных эквивалентов у некоторых слов они могут быть указаны человеком; если эквиваленты не соответствуют контексту, они могут быть заменены; если их несколько, то есть возможность выбрать только те из них, которые соответствуют контексту.