Ограничения на поиск

Эксперимент заключается в выводе набора параметров вероятностей грамматики связей путем анализа корпуса предложений русского языка. Предполагается, что априори мы имеем самые минимальные знания о грамматике языка. Известно лишь, что есть слова и между словами есть связи. Предложим самые простые и сильные ограничения на типы связей и классы слов.

Единственный тип связи. Для уменьшения пространства поиска рационально ввести единственный тип связи. На рисунке 3 показан пример связки с единственным типом связи. Число дизъюнктивных слагаемых растет по экспоненте от числа типов связей, и обучение без этого ограничения крайне затруднительно.

Рис. 3. Единственный тип связи N.

Небольшое число дизъюнктивных слагаемых. В грамматике языка каждое слово содержит некоторый набор дизъюнктивных слагаемых. В алгоритме обучения требуется ввести ограничение на число дизъюнктивных слагаемых. В противном случае пространство поиска будет очень большим и результаты будут плохими. При изучении грамматики связей, разработанной вручную, было обнаружено, что многие слова имеют очень мало способов для соединения с другими словами. К примеру, предлоги всегда имеют только два дизъюнкта. А глаголы, наоборот, могут иметь очень большие списки дизъюнктов. Однако эта лингвистическая информация не используется в нашей модели языка.

Единственный класс слова. В алгоритме не используются знания о частях речи и не используется какая-либо кластеризация слов. Предполагается, что набор дизъюнктивных слагаемых после процедуры обучения и подскажет нам грамматический класс слова.