Bidirectional Kazakh Sign Language prosody-aware translation using computer vision and speech recognition techniques

Frontiers in Artificial Intelligence, 2026

Толық мәтін Ашық қол жеткізу: Gold Метадеректер (CSL-JSON)
DOI 10.3389/frai.2026.1835419
Деректер сенімділігі 70 орташа
Бұл баға қалай есептеледі

Ол жазбаның өзінің тексерілетін белгілерінен құралады: мақаланың DOI-і бар ма, оның деректерін қанша тәуелсіз дереккөз растады, міндетті өрістер толтырылған ба және соңғы растау қаншалықты жаңа. Дереккөздер арасындағы алшақтық пен идентификатордың болмауы бағаны төмендетеді. 80-нен бастап мән жазбаның қосымша тексерусіз жарияланғанын, 60-тан 79-ға дейін — оның сенімділігі төмен күйде жарияланғанын және қолмен тексеру ұсынылатынын білдіреді. Редактор қолмен тексерген жазбаны қайта есептеу 90-нан төмен түсірмейді. Бұл — мақаланың өзіне емес, ол туралы деректерімізге берілген баға.

Аңдатпа

Introduction: This study presents a bidirectional communication system designed to enhance interaction between hearing-impaired and hearing individuals using gesture recognition. Methods: The proposed framework integrates multiple components, including Kazakh Sign Language (KSL) gesture detection, closed-set sentence classification, speech recognition, and speech generation. The system is trained and evaluated using a dataset consisting of images and video recordings of KSL gestures together with audio data for Kazakh speech synthesis. Results: Experimental evaluation demonstrates that the overall system achieves a sentence classification accuracy of 92% across 12 closed-set sentence classes, while individual model accuracy did not fall below 87%. Compared to other approaches, the proposed method achieved competitive results in terms of accuracy on the collected dataset; however, inference speed comparisons are module-specific and measured as latency in ms/sample. Discussion: The results confirm the feasibility of the proposed approach as a proof-of-concept for improving accessibility and communication through automated sign language understanding. The system demonstrates practical applicability in bridging the communication gap between signers and non-signers, thereby promoting greater accessibility.