Modification of term sense embeddings regarding word-sense disambiguation

Abstract

Мовленнєва комунікація як міждисциплінарна галузь знань охоплює широке коло проблем творення мовлення (рос."речепроизводство"), мовленнєвого сприйняття (рос."речевосприятие"), аналізу мови, кодування, синтезу, розпізнавання, математики для обробки мовлення, частотного аналізу та ін. Важливим є вивчення продукування мовлення та акустичних параметрів слуху, слухової психофізики, мовленнєвих стимулів, сприйняття спотвореної мови, кодування мовленнєвих сигналів, квантування, лінійного передбачення кодування, дикторської верифікації та ідентифікації та ін. У статті пропонується контекстно-залежний програмний підхід, який дозволяє підійти до вирішення смислової неоднозначності стосовно предметної галузі процесів мовлення (рос. "речеведение") як міждисциплінарної науки, об'єктом якої є усне мовлення. Спеціальні значення термінів розглядаються як окремі кластери багатовимірного векторного простору, що включає масиви контекстних слів. Надалі, базуючись на даному підході, програма обчислює апостеріорну ймовірність того, що цільовий термін в конкретному реченні використовується зі спеціальним значенням. Запропонований механізм може бути інтегрований в модуль попередньої обробки системи машинного перекладу. В якості вирішення цього завдання в статті пропонується збільшити вагу (або значення) менш частотних, але разом з тим найбільш значущих слів, що, допоможе підвищити точність визначення значення двозначного терміну. Цей механізм може потенційно діяти як частина модуля попереднього редагування для системи машинного перекладу. Запропонований програмний підхід дає змогу досягти більш високих результатів з опорою на використання контекстного підходу при визначенні феномена термінологічної двозначності в уже згадуваному тексті.

This paper proposes a context-based mechanism which makes it possible to approach the solution of word sense disambiguation with respect to the subject domain of speechology (spoken language sciences). Special meanings4 of terms are decomposed into a multidimensional vector space of context words. Hereafter, on the basis of this expansion the program computes the a posteriori probability that the target term in a particular sentence is used with a special meaning. The proposed mechanism can be integrated into the pre-editing module of the Machine Translation system (MT). This article suggests a mechanism for increasing the significance of context words for more accurate determination of meaning of an ambiguous term. This mechanism consists in modifying the coordinates of vector representation of term meaning which correspond to the most significant context words. Criteria for text analysis of speechology will be (1) preciseness of speechology concepts and their definition, explanation, circumscription, etc.; (2) exactness and consistent use of speechology terminology; (3) indicators of a possible merger between object language and metalanguage in microstructure studies referring to the text under analysis; (4) macrostructure of the given text form. The formula for calculating the probability that a term has a special meaning is derived on the assumption that event s has already occurred. As a perspective, it is necessary to empirically calculate the most optimal value of the "importance weight" as well as the threshold for classification model.