The estimation of stability of semantic space generated by word embedding algorithms

2018

Закрытый доступ Метаданные (CSL-JSON)
DOI 10.1109/isai-nlp.2018.8692814
Достоверность данных 70 средняя
Как считается эта оценка

Складывается из проверяемых признаков самой записи: есть ли у статьи DOI, сколько независимых источников подтвердили её данные, заполнены ли обязательные поля и насколько свежо последнее подтверждение. Снижают оценку расхождения между источниками и отсутствие идентификатора. Значение от 80 означает, что запись опубликована без дополнительной проверки; от 60 до 79 — что она опубликована с пониженной достоверностью и ручная проверка желательна. Запись, выверенную редактором вручную, пересчёт не опускает ниже 90. Это оценка наших данных о статье, а не оценка самой статьи.

Аннотация

Vector representation of words plays a major role in the natural language processing. As a fundamental unit, the vector representation is further used to solve applied problems: text classification, textual entailment, named-entity recognition. In recent times was created several models to produce word embedding vectors which uses different approaches. However, they suffer from accidents while training, such as random initialization of weights, the random order of the examples. Therefore, it is impossible to reproduce the result, and repeated experiments using the same dataset and algorithms lead to various close results. In this work, we presented methods for estimating the “dissimilarity” of the semantic spaces built by the algorithms of word embeddings and give mathematical intuition about influence of various randomness on the structure of semantic spaces.