Security Risks of ML Models: Adverserial Machine Learning

2024

Жабық қол жеткізу Метадеректер (CSL-JSON)
DOI 10.1109/sist61555.2024.10629452
Деректер сенімділігі 85 жоғары
Бұл баға қалай есептеледі

Ол жазбаның өзінің тексерілетін белгілерінен құралады: мақаланың DOI-і бар ма, оның деректерін қанша тәуелсіз дереккөз растады, міндетті өрістер толтырылған ба және соңғы растау қаншалықты жаңа. Дереккөздер арасындағы алшақтық пен идентификатордың болмауы бағаны төмендетеді. 80-нен бастап мән жазбаның қосымша тексерусіз жарияланғанын, 60-тан 79-ға дейін — оның сенімділігі төмен күйде жарияланғанын және қолмен тексеру ұсынылатынын білдіреді. Редактор қолмен тексерген жазбаны қайта есептеу 90-нан төмен түсірмейді. Бұл — мақаланың өзіне емес, ол туралы деректерімізге берілген баға.

Аңдатпа

Machine learning has emerged as a transformative technology with diverse applications across various sectors. Despite its widespread adoption, the susceptibility of machine learning algorithms to security threats presents a significant challenge. While conventional security risks at hardware and network levels are well-documented, the unique vulnerabilities of machine learning systems require specialized attention.In this paper, we delve into the critical issue of security risks in machine learning, emphasizing the growing concerns surrounding adversarial attacks. To illustrate the practical implications of these security risks, we present a detailed case study on adversarial attacks. By implementing and analyzing an adversarial attack on image classification models, we demonstrate their detrimental effects on model performance and robustness.Our findings underscore the urgent need for proactive measures to safeguard machine learning systems against security threats. By raising awareness and fostering collaboration between researchers and practitioners, we can pave the way for more secure and resilient machine learning frameworks.