KSL-EMO MULTIMODAL DATASET FOR EMOTION-AWARE KAZAKH SIGN LANGUAGE RECOGNITION

2026

Толық мәтін Ашық қол жеткізу: Hybrid Метадеректер (CSL-JSON)
DOI 10.54596/2958-0048-2026-1-263-273
Деректер сенімділігі 85 жоғары
Бұл баға қалай есептеледі

Ол жазбаның өзінің тексерілетін белгілерінен құралады: мақаланың DOI-і бар ма, оның деректерін қанша тәуелсіз дереккөз растады, міндетті өрістер толтырылған ба және соңғы растау қаншалықты жаңа. Дереккөздер арасындағы алшақтық пен идентификатордың болмауы бағаны төмендетеді. 80-нен бастап мән жазбаның қосымша тексерусіз жарияланғанын, 60-тан 79-ға дейін — оның сенімділігі төмен күйде жарияланғанын және қолмен тексеру ұсынылатынын білдіреді. Редактор қолмен тексерген жазбаны қайта есептеу 90-нан төмен түсірмейді. Бұл — мақаланың өзіне емес, ол туралы деректерімізге берілген баға.

Аңдатпа

Sign Language Recognition (SLR) is a main technology for bridging the communication gap between the deaf community and the hearing majority. While deep learning has advanced SLR significantly, low resource languages like Kazakh Sign Language (KSL) remain under explored due to the deficit of labeled data. In this paper, we address this limitation by establishing a novel benchmark for KSL, focusing on two distinct tasks: Isolated Sign Language Recognition (ISLR) and Emotion Recognition. We evaluate the performance of three state-of-the-art Vision Transformer architectures ViViT, VideoMAE V2, and TimeSformer on a custom collected dataset comprising 20 lexical gestures and 4 emotional states. Our experiments reveal that TimeSformer achieves superior performance, attaining a Top-1 Accuracy of 96.63% on lexical gestures and 80.87% on emotion recognition. Comparative analysis indicates that TimeSformer's "Divided Space-Time Attention" mechanism captures finegrained spatiotemporal dynamics more effectively than the factorised encoder of ViViT or the masked modeling approach of VideoMAE.