Abstract
Деструктивный контент, распространяемый в настоящее время на платформах социальных сетей и мессенджерах, представляет серьезную угрозу информационной безопасности. Увеличение объема контента и усложнение методов его скрытой передачи усиливают необходимость автоматического обнаружения таких материалов. Нехватка средств и методов, особенно в направлении анализа текстов на казахском языке, делает эту проблему актуальной. Цель настоящего исследова-ния-разработка автоматизированной методики, позволяющей эффективно выявлять признаки экстремистской идеологии в текстах социальных сетей на казахском языке. В работе проанализированы основные идеологические категории экстремистского контента- пропаганда, рекрутмент и радикализация-и поставлена задача классифи-кации текста по этим направлениям. В ходе исследования предусмотрено состав-ление сборника данных с сохранением баланса на основе материалов на казахском языке, собранных с платформ VK, YouTube и Telegram. При аннотировании отме-чается, что учитываются различия во мнениях экспертов, возможность применения подходов soft labels и disagreement-based learning. Расхождения в оценках аннотато-ров рассматриваются как информативный сигнал, на основе которого сравниваются модели DART-4xBERT, DART-4xLLM и DART-Classic-Ensemble. Наилучший резуль-тат достигнут системой DART-Classic-Ensemble (F1=0.9664), что подтверждает эф-фективность гетерогенных ансамблей. Говорится о классических моделях и моделях глубокого обучения для автоматического определения экстремистского содержания. Также показано влияние предварительной обработки текста на точность, эффектив-ность модели. В статье предлагается комплексная методика анализа контента соци-альных сетей на казахском языке и выявления экстремистской идеологии с исполь-зованием искусственного интеллекта и технологий обработки естественного языка. Предлагаемый подход направлен на укрепление информационной безопасности, а также обеспечение идеологической стабильности в обществе.