When Does Fine-Tuning Matter for a Low-Resource Language? Evaluating Open-Weight LLMs on Kazakh Benchmarks

Information, 2026

Полный текст Открытый доступ: Gold Метаданные (CSL-JSON)
DOI 10.3390/info17090921
Достоверность данных 85 высокая
Как считается эта оценка

Складывается из проверяемых признаков самой записи: есть ли у статьи DOI, сколько независимых источников подтвердили её данные, заполнены ли обязательные поля и насколько свежо последнее подтверждение. Снижают оценку расхождения между источниками и отсутствие идентификатора. Значение от 80 означает, что запись опубликована без дополнительной проверки; от 60 до 79 — что она опубликована с пониженной достоверностью и ручная проверка желательна. Запись, выверенную редактором вручную, пересчёт не опускает ниже 90. Это оценка наших данных о статье, а не оценка самой статьи.

Аннотация

Fine-tuning is often treated as a prerequisite for deploying large language models in low-resource languages, yet its value for recent open-weight models is unclear. We evaluate eleven checkpoints of 7–14 billion parameters before and after Low-Rank Adaptation on 5000 human-curated Kazakh instruction–response pairs. Evaluation is performed on the Kazakh splits of KazMMLU, ARC, GPQA, MMLU-Pro, and GSM8K, with Russian GSM8K as a higher-resource comparison. Our central finding is a language asymmetry: the same Kazakh-trained adapters improved Russian GSM8K more than the Kazakh GSM8K they targeted. Excluding one checkpoint that collapsed after fine-tuning by up to 58 percentage points, the remaining ten gained +2.6 percentage points on average on Kazakh (range −6.1 to +13.6) against +6.9 on Russian, significant under a paired signed-rank test. A manual audit of 400 responses identifies a contributing mechanism: Kazakh outputs were more often truncated before a final answer, and correct Kazakh reasoning more often scored wrong by answer extraction, so part of the gap reflects response form, not reasoning. Adaptation produced no meaningful average change on the four multiple-choice benchmarks. GSM8K is the suite’s only free-form task, so generality is untested. These results suggest that low-resource fine-tuning should be evaluated per checkpoint, benchmark, and language rather than being adopted by default.