Geometric Probing of Word Vectors

2021

Закрытый доступ Метаданные (CSL-JSON)
DOI 10.14428/esann/2021.es2021-105
Достоверность данных 70 средняя
Как считается эта оценка

Складывается из проверяемых признаков самой записи: есть ли у статьи DOI, сколько независимых источников подтвердили её данные, заполнены ли обязательные поля и насколько свежо последнее подтверждение. Снижают оценку расхождения между источниками и отсутствие идентификатора. Значение от 80 означает, что запись опубликована без дополнительной проверки; от 60 до 79 — что она опубликована с пониженной достоверностью и ручная проверка желательна. Запись, выверенную редактором вручную, пересчёт не опускает ниже 90. Это оценка наших данных о статье, а не оценка самой статьи.

Аннотация

This paper studies the informativeness of linguistic properties such as part-of-speech and named entities encoded in word representations.First, we find directions that correspond to these properties using the method of Elazar et al. (2020).Then such directions are compared with the principal vectors obtained from application of PCA to word embeddings.As a result, we find that the part-of-speech information is more important for word embeddings than the named entity property.