APPLICATION OF BLEU AND SARI METRICS IN EVALUATING SIMPLIFIED TEXTS IN KAZAKH: ANALYSIS AND EFFECTIVENESS

2025

Полный текст Открытый доступ: Gold Метаданные (CSL-JSON)
DOI 10.55452/1998-6688-2025-22-1-36-43
Достоверность данных 70 средняя
Как считается эта оценка

Складывается из проверяемых признаков самой записи: есть ли у статьи DOI, сколько независимых источников подтвердили её данные, заполнены ли обязательные поля и насколько свежо последнее подтверждение. Снижают оценку расхождения между источниками и отсутствие идентификатора. Значение от 80 означает, что запись опубликована без дополнительной проверки; от 60 до 79 — что она опубликована с пониженной достоверностью и ручная проверка желательна. Запись, выверенную редактором вручную, пересчёт не опускает ниже 90. Это оценка наших данных о статье, а не оценка самой статьи.

Аннотация

This article explores the methodology for evaluating the quality of simplified texts in Kazakh using BLEU and SARI metrics. Text simplification is an important aspect for ensuring information accessibility and facilitating the learning process in Kazakh language. The BLEU metric, based on comparing n-grams of translation and reference, is widely used for evaluating the quality of machine translation, but it does not take the context of the input text into account. The SARI metric, specifically designed for evaluating text simplification, considers semantic changes and shows a higher correlation with human judgments. In this study, algorithms for replacing complex words with simple synonyms and for replacing or removing complex phrases were applied. The analysis results showed that the SARI metric is more sensitive to the changes made in simplified texts compared to BLEU. Therefore, the combined use of BLEU and SARI metrics provides a comprehensive and accurate evaluation of the quality of simplified texts in Kazakh.