지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 발행연도
- 2024.10
- 수록면
- 981 - 991 (11page)
이용수
초록· 키워드
오류제보하기
인공지능 기술의 오작동을 유도하는 적대적 공격은 다양한 도메인과 모델에 적용 가능하며, 성능이 높은 SOTA (State-of-the-Art) 모델의 성능도 손쉽게 저해 시킬 수 있다. 이에 대처하기 위해 적대적 방어 기술들이 개발되고 있지만, 명확한 한계점으로 인해 활용이 제한된다. 그 결과, 특정 분야에서 인공지능 기술의 도입 뿐만 아니라 고도화 연구도 지체되고 있다. 해당 문제를 해결하기 위해, 본 논문에서는 적대적 공격의 손실 함수 업데이트 방향의 부호를 바꿔 새로운 개념의 적대적 데이터를 소개한다. 본 연구에서 소개한 역방향 적대적 데이터를 데이터 오염 및 적대적 훈련 환경에 적용하여 실험을 진행한 결과, 모델의 성능을 최대 72% 낮추고 9개 환경 중 6개 환경에서 강건성 향상에 가장 효율적임을 입증했다. 결과적으로, 제시한 적대적 데이터는 적대적 공격과 방어 기술의 연구 확장을 유도할 수 있으며, 더 나아가 방어 기술 개발의 고도화를 촉진할 수 있어 AI의 안전한 도입에 기여한다.
목차
요약
ABSTRACT
I. 서론
II. 배경
III. 방법론
IV. 실험 결과
V. 논의
VI. 결론
References
참고문헌 (18)
참고문헌 신청
Sun Lu, Mingtian Tan, and Zhe Zhou. "A survey of practical adversarial example attacks." Cybersecurity, vol. 1, no. 1, pp. 9, Dec. 2018.
Sven Gowal, Chongli Qin, Jonathan Uesato, Timothy Mann, and Pushmeet Kohli. "Uncovering the limits of adversarial training against norm-bounded adversarial examples." arXiv:2010.03593, 2020.
S.A. Rebuffi, Alexander Kolesnikov, Georg Sperl, and C.H. Lampert. "icarl: Incremental classifier and representation learning." Proceedings of the IEEE conference on Computer Vision and Pattern Recognition, pp. 2001-2010, Apr. 2017.
Rahaf Aljundi, Min Lin, Baptiste Goujaud, and Yoshua Bengio. "Gradient based sample selection for online continual learning." Advances in neural information processing systems, pp. 10, Oct. 2019.
Mallya, Arun, and Svetlana Lazebnik. "Packnet: Adding multiple tasks to a single network by iterative pruning." Proceedings of the IEEE conference on Computer Vision and Pattern Recognition, pp. 7765-7773, May. 2018.
Sven Gowal, Chongli Qin, Jonathan Uesato, Timothy Mann, and Pushmeet Kohli. "Uncovering the limits of adversarial training against norm-bounded adversarial examples." arXiv:2010.03593, 2020.
S.A. Rebuffi, Alexander Kolesnikov, Georg Sperl, and C.H. Lampert. "icarl: Incremental classifier and representation learning." Proceedings of the IEEE conference on Computer Vision and Pattern Recognition, pp. 2001-2010, Apr. 2017.
Rahaf Aljundi, Min Lin, Baptiste Goujaud, and Yoshua Bengio. "Gradient based sample selection for online continual learning." Advances in neural information processing systems, pp. 10, Oct. 2019.
Mallya, Arun, and Svetlana Lazebnik. "Packnet: Adding multiple tasks to a single network by iterative pruning." Proceedings of the IEEE conference on Computer Vision and Pattern Recognition, pp. 7765-7773, May. 2018.
함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
Adversarial Sparsity Mapping Network to Defense Against Adversarial Attacks
Proceedings of KIIT Conference
2021 .06
-
Advanced Generative Adversarial Defense Model using Instance Sparsity Mapping Network
한국정보기술학회논문지
2021 .08
-
선형 판별 분석 및 k-means 알고리즘을 이용한 적대적 공격 유형 분류 방안
정보보호학회논문지
2021 .12
-
적대적 학습과 적대적 강건성 사이의 연관성
한국정보과학회 학술발표논문집
2020 .12
-
AI 모델의 적대적 공격 대응 방안에 대한 연구
한국컴퓨터정보학회 학술발표논문집
2023 .07
-
적대적 공격에 대한 방어의 효율성 향상
한국정보과학회 학술발표논문집
2024 .06
-
데이터 예측 클래스 기반 적대적 공격 탐지 및 분류 모델
정보보호학회논문지
2021 .12
-
카메라 시점 변환을 이용한 전이 기반 적대적 공격 기법
전자공학회논문지
2022 .07
-
적대적 머신러닝 공격과 방어기법
한국컴퓨터정보학회 학술발표논문집
2023 .07
-
Analysis of Vulnerabilities in Autonomous Driving Environments through Physical Adversarial Attacks Incorporating Natural Elements
Journal of KIISE
2024 .10
-
적대적 취약성 다양화를 통한 적대적 전이성 향상
대한전자공학회 학술대회
2022 .06
-
적대적인 공격에 대한 인증 가능한 방어 방법의 성능 향상
한국방송미디어공학회 학술발표대회 논문집
2020 .11
-
영상 인식을 위한 딥러닝 모델의 적대적 공격에 대한 백색 잡음 효과에 관한 연구
한국정보전자통신기술학회 논문지
2022 .02
-
컴퓨터 비전 분야의 적대적 공격 기술 연구 동향
정보과학회지
2021 .08
-
인공지능 기반 자율주행 네트워크의 적대적 공격 방법
한국통신학회 학술대회논문집
2023 .02
-
생성 모델 기반 적대적 공격의 전이성 향상을 위한 구분 모델의 특성 지도 마스킹 방법
대한전자공학회 학술대회
2022 .06
-
얼굴 인식 모델에 대한 질의 효율적인 블랙박스 적대적 공격 방법
정보보호학회논문지
2022 .12
-
강화학습 모델에 대한 적대적 공격과 이미지 필터링 기법을 이용한 대응 방안
정보보호학회논문지
2024 .10
-
이미지 노이즈 제거를 이용한 적대공격에 대한 방어
한국정보과학회 학술발표논문집
2018 .06
-
Adversarial Attack and Defense for Tabular Data Regression
대한산업공학회 춘계공동학술대회 논문집
2021 .06
이 논문과 함께 이용한 논문
최근 본 자료
댓글(0)
0