A Finite State Transducer Based Morphological Analyzer for The Kazakh Language

Gulmira Tolegen, Alymzhan Toleu, Rustam Mussabayev

2022

DOI 10.1109/ubmk55850.2022.9919445

Достоверность данных 85 высокая

Как считается эта оценка

Складывается из проверяемых признаков самой записи: есть ли у статьи DOI, сколько независимых источников подтвердили её данные, заполнены ли обязательные поля и насколько свежо последнее подтверждение. Снижают оценку расхождения между источниками и отсутствие идентификатора. Значение от 80 означает, что запись опубликована без дополнительной проверки; от 60 до 79 — что она опубликована с пониженной достоверностью и ручная проверка желательна. Запись, выверенную редактором вручную, пересчёт не опускает ниже 90. Это оценка наших данных о статье, а не оценка самой статьи.

Аннотация

This paper presents a finite state transducer based morphological analyzer for Kazakh language which is able to decompose complex Kazakh words into consecutive morphemes including lemma, part-of-speech, and morphological tags. Due to the agglutinative nature of the language, the analyzer can produce more than one analysis for each word depending on word's complexity. We conducted several experiments to evaluate the performance of the analyzer. It achieved 92% coverage on large Wikipedia and 96% coverage on the news data, and the accuracy of analyzer was 98.40% on the test data.