Аңдатпа
В данной статье исследуется применение моделей BERT, T5 и RoBERTa для классификации текстов на казахском языке. Эти модели относятся к современным трансформерным архитектурам и успешно используются в задачах обработки естественного языка. Благодаря своим особенностям они хорошо подходят для работы с морфологически сложными языками, к которому относится казахский. В данной работе рассматривается возможность использования данных, подготовленных для задачи распознавания именованных сущностей (NER), при классификации текстов. Для этого была проведена оценка моделей с учетом особенностей казахского языка, а также рассмотрены этапы подготовки данных и последующего дообучения моделей. В результате экспериментов выявлены наилучшие подходы к классификации текстов на казахском языке с использованием моделей BERT, T5 и RoBERTa.