딥러닝 기반 의료 영상 인공지능 모델의 취약성: 적대적 공격
Exploiting the Vulnerability of Deep Learning-Based Artificial Intelligence Models in Medical Imaging: Adversarial Attacks
김휘영, 정대철, 최병욱,
소속 상세정보
김휘영 ( Kim Whi-Young )
연세대학교 의과대학 의료영상데이터사이언스센터
정대철 ( Jung Dae-Chul )
연세대학교 의과대학 세브란스병원 영상의학과
최병욱 ( Choi Byoung-Wook )
연세대학교 의과대학 세브란스병원 영상의학과
Abstract
딥러닝 학습모델 성능의 비약적인 발전으로 인해 영상의학을 중심으로 하여 기계학습 모델들이 실제 임상현장에서 의사를 보조하여 진단능을 높이고 작업의 효율성을 증대 시켜줄 것이라는 기대가 많다. 이러한 기대로 인해 많은 병원과 민간 기업 등에서 의학 영상을 이용한 자동 진단 학습모델 개발 경쟁이 뜨겁다. 실제로 가까운 미래에 많은 딥러닝 기반의 자동 진단 프로그램들이 의료 환경에서 사용될 것이다. 그러나, 딥러닝 알고리듬이 내재적으로 가진 불확실성(uncertainty)에 의한 적대적 공격(adversarial attack)의 가능성은 특히 의학문제에 딥러닝 알고리듬을 적용하는 데에 큰 걸림돌이 된다. 본 종설에서는 의학영상을 다루는 딥러닝 모델들에 대해 어떠한 원리와 방식으로 적대적 공격이 이루어질 수 있으며, 이로 인하여 어떤 문제들이 발생할 수 있으며 적대적 공격을 차단할 수 있는 방법은 없는지 자세히 살펴보고자 한다.
Due to rapid developments in the deep learning model, artificial intelligence (AI) models are expected to enhance clinical diagnostic ability and work efficiency by assisting physicians. Therefore, many hospitals and private companies are competing to develop AI-based automatic diagnostic systems using medical images. In the near future, many deep learning-based automatic diagnostic systems would be used clinically. However, the possibility of adversarial attacks exploiting certain vulnerabilities of the deep learning algorithm is a major obstacle to deploying deep learning-based systems in clinical practice. In this paper, we will examine in detail the kinds of principles and methods of adversarial attacks that can be made to deep learning models dealing with medical images, the problems that can arise, and the preventive measures that can be taken against them.
키워드
Deep Learning; Artificial Intelligence; Medical Imaging
원문 및 링크아웃 정보
등재저널 정보