Developing a Kazakh question-answering model: standing on the shoulders of multilingual giants

2024

Жабық қол жеткізу Метадеректер (CSL-JSON)
DOI 10.1109/sist61555.2024.10629326
Деректер сенімділігі 85 жоғары
Бұл баға қалай есептеледі

Ол жазбаның өзінің тексерілетін белгілерінен құралады: мақаланың DOI-і бар ма, оның деректерін қанша тәуелсіз дереккөз растады, міндетті өрістер толтырылған ба және соңғы растау қаншалықты жаңа. Дереккөздер арасындағы алшақтық пен идентификатордың болмауы бағаны төмендетеді. 80-нен бастап мән жазбаның қосымша тексерусіз жарияланғанын, 60-тан 79-ға дейін — оның сенімділігі төмен күйде жарияланғанын және қолмен тексеру ұсынылатынын білдіреді. Редактор қолмен тексерген жазбаны қайта есептеу 90-нан төмен түсірмейді. Бұл — мақаланың өзіне емес, ол туралы деректерімізге берілген баға.

Аңдатпа

At present, there is a proliferation of AI-powered systems being developed to enable natural language interactions with humans. However, these systems are primarily designed for a limited set of approximately 40 dominant languages, while the majority of the world’s over 7,000 living languages, including Kazakh, are categorized as under-resourced languages that lack cutting-edge AI technologies like Siri, GPT-3, etc. The solution is to leverage state-of-the-art multilingual models, which have recently emerged as vital resources for lowresource languages, facilitating the rapid development of native language models with acceptable quality. This study focuses on the comprehensive evaluation of various multilingual models, including mT5, XLM-RoBERTa, and mDeBERTa with the aim to determine their suitability as donor models for Kazakh question answering. Furthermore, the study addresses the research question of whether large multilingual models genuinely outperform native language models in the task of question answering. Experimental results confirm this superiority and lead to the conclusion that there is no need to train native models from scratch, considering the associated economic and environmental costs.