-
- [연구] 엄영익 교수 연구실(분산컴퓨팅연구실, DCLab.), MobiCom 2023 논문 게제 승인
- 엄영익 교수 연구실(분산컴퓨팅연구실, DCLab.), MobiCom 2023 논문 채택 분산컴퓨팅연구실의 엄영익 교수님과 임근식 박사과정의 논문 “SWAM: Revisiting Swap and OOMK for Improving Application Responsiveness on Mobile Devices”가 The 29th Annual International Conference on Mobile Computing and Networking (MobiCom) 2023 학회에 게재 승인되었습니다. MobiCom 학회는 ACM SIGMOBILE에서 주최하고 모바일 컴퓨팅과 무선 및 모바일 네트워킹 분야의 문제를 해결하는 최우수 학회 (BK21 CS IF=4)입니다. 본 논문은 모바일 환경에서의 고질적인 메모리 부족 문제에 주목합니다. 그리고 기존 모바일 시스템이 안고 있는 메모리 회수 정책의 한계를 극복하기 위한 근본적 해결책을 제시합니다. 이를 위해, 적응형 스왑 기법, 어플리케이션 간 공유 페이지 회수 기법, 선별적 어플리케이션 종료 정책 등을 새롭게 설계하였습니다. 실험 결과, 제안 기법 SWAM을 통해 메모리 부족으로 인한 어플리케이션 종료 현상을 혁신적으로 감소시켰으며 어플리케이션의 시작 시간 (launch time) 및 응답 시간을 (response time) 기존 기법 대비 크게 향상시켰습니다. 현재 산/학계에서는 모바일 디바이스의 사용자 응답성을 개선하고자 많은 투자와 연구가 진행되고 있습니다. 본 논문은 실제 모바일 디바이스를 통해 제안 기법의 효용성을 검증하였으며 관련 분야 최고 학회 MobiCom에서 게재를 승인받은 만큼 실용성과 연구적 성과 모두를 이루어 내었다고 할 수 있습니다. 추가적으로 본 논문의 제 2저자인 강동현 박사 (창원대학교 교수) 또한 분산컴퓨팅연구실에서 박사 학위를 취득하였습니다. 졸업 이후에도 엄영익 교수님 지도 학생들 간의 연구 교류가 활발히 진행되고 있음을 보여주고 있습니다. [논문 정보] SWAM: Revisiting Swap and OOMK for Improving Application Responsiveness on Mobile Devices Geunsik Lim, Donghyun Kang, MyungJoo Ham, and Young Ik Eom The 29th Annual International Conference On Mobile Computing And Networking (MobiCom 2023) Abstract: Existing memory reclamation policies on mobile devices may be no longer valid because they have negative effects on the response time of running applications. In this paper, we propose SWAM, a new integrated memory management technique that complements the shortcomings of both the swapping and killing mechanism in mobile devices and improves the application responsiveness. SWAM consists of (1) Adaptive Swap that performs swapping adaptively into memory or storage device while managing the swap space dynamically, (2) OOM Cleaner that reclaims shared object pages in the swap space to secure available memory and storage space, and (3) EOOM Killer that terminates processes in the worst case while prioritizing the lowest initialization cost applications as victim processes first. Experimental results demonstrate that SWAM significantly reduces the number of applications killed by OOMK (6.5x lower), and improves application launch time (36% faster) and response time (41% faster), compared to the conventional schemes.
-
- 작성일 2022-11-23
- 조회수 1088
-
- [연구] 김유성 교수 연구실 2022 스펙트럼 챌린지 대회 1등 수상
- 김유성 교수 연구실 2022 스펙트럼 챌린지 대회 1등 수상 스펙트럼 챌린지는 정부 주도형 연구·개발을 개방된 도전 경쟁형 연구·개발 체계로 발전시키려는 목적으로 국가 연구개발 계획에 의거 2019년도부터 2023년까지 5년 동안 차등화된 기술 난이도로 대회를 계획해 매년 9월부터 11월까지 실시하고 있다. 무선 통신 기술 분야의 창의적이고 혁신적인 기술이 요구되는 문제로 경연이 시행되며 산·학·연 소속 참가팀과 전년도 선발된 우수팀이 함께 온라인 공개 자율 경쟁 방식으로 2번의 예선전과 본선 대회를 통해 최종 우수팀을 선발한다. 성균관대학교 박정인, 오승준 석사과정, 김유성 교수로 구성된 CSI Lab. (Computer Systems and Intelligence Lab) 팀은 차세대 와이파이 환경에서 주파수를 효율적으로 공동 사용할 수 있게 하는 AI 공존 기술 분야에서 1등을 수상하였다. 특히 CSI Lab. 팀은 2020년 부터 3년 연속 1등이라는 쾌거를 이룩했다. 1등 팀에게는 연구비 1억원이 수여된다. 기사 본문: https://it.chosun.com/site/data/html_dir/2022/11/15/2022111502410.html#
-
- 작성일 2022-11-16
- 조회수 1241
-
- [학생실적] [산학협력과제] 2022 메타버스 솔루션 챌린지 최우수상 수상
- 산학협력프로젝트 웅진씽크빅팀 : '2022 메타버스 솔루션 챌린지' 최우수상 수상 박희선 교수가 지도하는 2022년 산학협력프로젝트 '웅진씽크빅'팀이 '2022 메타버스 솔루션 챌린지 공모전'에서 최우수상을 수상했다. 정보통신산업진흥원 주관으로 과학기술정보통신부가 주최한 2022 메타버스 솔루션 챌린지는 대한민국 전 국민 대상(개인 또는 단체)으로 메타버스와 함께 해결하는 생활 속 사회문제를 주제로 플랫폼, VR·AR을 활용한 ICT솔루션을 평가하는 공모전이다. 이번 공모전은 총 54개팀 171명 중 1차 서류심사를 거쳐, 12팀 39명이 2차 현장 발표를 진행해 1위를 차지했다. 2022 메타버스 솔루션 챌린지 1위 - 출품작 : MannerVerse (어린이를 위한 바른말 메타버스) > 개념 : 아이들이 안전하고 건전하게 메타버스에서 활동할 수 있도록 언어 습관을 도와주는 솔루션 > 기능 : 혐오 표현 탐지, 유해 그룹 탐지, 긍정언어 자동 변환, 협동 미니 게임 구현 등 > 적용 기술 : 딥러닝 언어이해 및 생성 기술, 유니티 등 - 참가자 : 허유민, 이준원, 박재인, 김태형, 강준모 (소프트웨어학과 2~3학년) - 지도교수 : 박희선 - 수상 내역 : 최우수상 (과학기술정보통신부 장관상) - 시상금 : 600만원 수상을 진심으로 축하드립니다.
-
- 작성일 2022-11-09
- 조회수 790
-
- [연구] 이상원 교수 연구실(VLDB), 2022년 SKKU대학원생 논문대상 우수상 수상
- 이상원 교수 연구실(VLDB), 2022년 SKKU대학원생 논문대상 우수상 수상 4단계 BK21 대학원혁신지원사업 세부추진과제의 일환으로 시행된 2022년 SKKU 대학원생 논문대상에서 우리대학 이상원 교수님 VLDB 연구실 소속 석사과정 이보현 학생이 우수상을 수상하였습니다. 본 사업의 이공학 분야 신청자는 총 113명으로 약 5:1의 경쟁률을 기록하였습니다. 높은 경쟁률을 뚫고 우수한 연구력을 바탕으로 선정된 이보현 학생의 수상을 진심으로 축하합니다.
-
- 작성일 2022-10-26
- 조회수 1338
-
- [연구] 이지형 교수 연구실, EMNLP 2022 논문 게재 승인
- 이지형 교수 연구실, EMNLP 2022 논문 게재 승인 정보 및 지능 시스템 연구실(지도교수: 이지형)의 최윤석(소프트웨어학과 박사과정)과 김효준(인공지능학과 석사과정)의 "TABS: Efficient Textual Adversarial Attack for Pre-trained NL Code Model Using Semantic Beam Search" 논문이 세계 최고 권위의 자연어처리분야 학회 'EMNLP(Empirical Methods in Natural Language Processing) 2022'에 게재 승인되었습니다. 2022년 12월 UAE 아부다비에서 발표될 예정입니다. YunSeok Choi, Hyojun Kim, and Jee-Hyong Lee. "TABS: Efficient Textual Adversarial Attack for Pre-trained NL Code Model Using Semantic Beam Search" In Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing: EMNLP 2022, Abu Dhabi, UAE, 2022 본 연구에서는 beam search 기반의 black-box adversarial attack method인 TABS를 제안합니다. 기존 연구는 간단한 greedy search 기반의 비효율적인 방법으로 adversarial example을 생성하지만, TABS는 beam search와 contextual semantic filtering를 통해 더 나은 adversarial example을 생성함과 동시에 search space를 효율적으로 줄이는 것을 확인하였습니다. 제안된 방법론은 NL code search classification과 retrieval task에서 attack success, the number of queires, semantic similarity 모두 향상된 성능을 달성하였습니다. Abstract: As pre-trained models have shown successful performance in program language processing as well as natural language processing, adversarial attacks on these models also attract attention. However, previous works on blackbox adversarial attacks generated adversarial examples in a very inefficient way with simple greedy search. They also failed to find out better adversarial examples because it was hard to reduce the search space without performance loss. In this paper, we propose TABS, an efficient beam search black-box adversarial attack method. We adopt beam search to find out better adversarial examples, and contextual semantic filtering to effectively reduce the search space. Contextual semantic filtering reduces the number of candidate adversarial words considering the surrounding context and the semantic similarity. Our proposed method shows good performance in terms of attack success rate, the number of queries, and semantic similarity in attacking models for two tasks: NL code search classification and retrieval tasks.
-
- 작성일 2022-10-25
- 조회수 1097
-
- [연구] 서의성 교수 연구실(CSL), 학부연구생 ICCD 학술대회 논문 발표
- 서의성 교수 연구실(CSL), 학부연구생 ICCD 학술대회 논문 발표 소프트웨어학과 학부 19학번 박소영 학생이 10월 23일 미국 Lake Tahoe에서 40년 역사의 우수학술대회인 IEEE International Conference on Computer Design (ICCD)에 주저자로 "Analysis and Mitigation of Data Sanitization Overhead in DAX File Systems" 논문 발표합니다. 박소영 학생의 논문은 Persistent media를 사용하는 저장장치의 성능을 활용하기 위한 Direct Access(DAX) 파일시스템들에서 공통적으로 발생하는 append write의 성능 저하 원인이 새로 할당된 데이터블록의 기존 데이터를 삭제하는 Zero-Out 과정에 있음을 밝히고, Zero-Out을 지연시간에 결정적인 쓰기 경로(write path)에서 분리하여, 백그라운드에서 진행하도록 운영체제의 구조를 개선하여 벤치마크 기준 36.8%의 append write 성능 향상을 얻었습니다.
-
- 작성일 2022-10-18
- 조회수 1322
-
- [연구] 김재광 교수 연구실(main Lab), IEEE ICDM 2022 논문 채택
- main Lab. (지도교수: 김재광)의 논문이 인공지능/데이터마이닝 분야 우수학회인 IEEE ICDM 2022 22nd IEEE International Conference on Data Mining의 Workshop (ML-HOS: Machine Learning on Higher- Order Structured data) 에 채택되었습니다. 논문은 22년 11월 미국 올란도에서 발표될 예정입니다. 논문 "Hybrid Oversampling Technique Based on Star Topology and Rejection Methodology for Classifying Imbalanced Data"은 이채규 (데이터사이언스융합학과) 연구원이 저자로 참여하였으며, 불균형 데이터 세트에서 분류 작업을 수행하고 분류를 개선하기 위해 소수 클래스에서 데이터를 오버샘플링하고 신뢰성이 낮은 생성 데이터를 reject 하는 새로운 기술을 제시하여 91개 데이터 셋에서 39개의 최신 방법들과 겨루어 우수한 성능을 보였습니다.
-
- 작성일 2022-10-11
- 조회수 1121
-
- [연구] 우홍욱 교수 연구실(CSI연구실), Neurips 2022 논문 게재 승인
- 우홍욱 교수 연구실(CSI연구실), Neurips 2022 논문 게재 승인 CSI연구실 (지도교수: 우홍욱)의 논문이 인공지능 분야 우수학회인 Neurips 2022 (Thirty-sixth Conference on Neural Information Processing systems) 에 게재 승인(Accept) 되었습니다. 논문은 22년 11월 미국 뉴올리언스에서 발표될 예정입니다. 논문 “Skills Regularized Task Decomposition for Multi-task Offline Reinforcement Learning” 은 유민종, 조상우 (소프트웨어학과 석박사통합과정) 연구원이 저자로 참여했으며, 오프라인 데이터셋을 활용하여 로봇, 드론 자율주행과 같은 복잡한 다중 태스크 학습에 샘플 효율적 적용이 가능한 공통 스킬 구축 기법을 제시합니다. CSI 연구실은 머신러닝, 강화학습, 자기지도학습 등을 활용하여 네트워크, 클라우드 시스템 최적화 연구와 로봇, 드론 자율주행 연구 등을 수행하고 있습니다. 이번 Neurips 2022 논문의 연구는 사람중심인공지능 핵심원천기술사업 (IITP), DNA+드론기술개발사업 (과기정통부), 삼성리서치 (삼성전자)의 지원으로 진행 중 입니다.
-
- 작성일 2022-09-19
- 조회수 1411
-
- [연구] 구형준 교수 연구실, ACSAC 2022 논문 2편 게재 승인
- SecAI 연구실 (지도교수: 구형준)의 논문 2편이 컴퓨터 보안 분야의 우수 학술대회인 ACSAC (Annual Computer Security Applications Conference)에 게재 승인되었습니다! [논문 #1] Practical Binary Code Similarity Detection with BERT-based Transferable Similarity Learning: BERT와 Siamese neural network 기반으로 Few shot learning의 장점을 활용한 바이너리 유사도 논문으로 주어진 코드 snippet을 비교할 때 distance 함수의 scalar 값이 아니라 distance 자체를 학습을 통해 vector로 학습해 유사성을 판정합니다. Abstract. Binary code similarity detection serves as a basis for a wide spectrum of applications, including software plagiarism, malware classification, and known vulnerability discovery. However, the inference of contextual meanings of a binary is challenging due to the absence of semantic information available in source codes. Recent advances leverage the benefits of a deep learning architecture into a better understanding of underlying code semantics and the advantages of the Siamese architecture into better code similarity detection. In this paper, we propose BinShot, a BERT-based similarity learning architecture that is highly transferable for effective binary code similarity detection. We tackle the problem of detecting code similarity with one-shot learning (a special case of few-shot learning). To this end, we adopt a weighted distance vector with a binary cross entropy as a loss function on top of BERT. With the prototype implementation of BinShot, our experimental results demonstrate the effectiveness, transferability, and practicality of BinShot, which is robust to detecting the similarity of previously unseen functions.We show that BinShot outperforms the previous state-of-the-art approaches for binary code similarity detection. [논문 #2] DeView: Confining Progressive Web Applications by Debloating Web API - 2020년 CCS에 발표한 Chromium debloating 논문(Slimium)의 후속작으로 Chromium 기반의 PWA (Progressive Web Application) debloating 연구입니다. 사용자 행위 등 동적 테스트를 통해 기록한 후 이를 재생하는 방식으로(record-and-replay) PWA에 사용하는 Web API를 프로파일링한 후, Web API 진입점만 제거해 가볍게 적용할 수 있도록 구현한 논문입니다. Abstract. A progressive web application (PWA) becomes an attractive option for building universal applications based on feature-rich web application programming interfaces (Web APIs). While flexible, such vast APIs inevitably bring a significant increase in an API attack surface, which commonly corresponds to a functionality that is neither needed nor wanted by the application. A promising approach to reduce the API attack surface is software debloating, a technique wherein an unused functionality is programmatically removed from an application or API. Unfortunately, debloating PWAs is challenging given the monolithic design and non-deterministic execution of a modern web browser. In this paper, we present DeView, a practical approach that reduces the attack surface of a PWA by blocking unnecessary but accessible web APIs. DeView tackles the challenges of PWA debloating by i) record-and-replay web API profiling that identifies needed web APIs on an app-by-app basis by replaying (recorded) browser interactions and ii) compiler-assisted browser debloating that eliminates the entry functions of corresponding web APIs from the mapping between web API and its entry point at a binary level. Our evaluation shows the effectiveness and practicality of DeView. DeView successfully eliminates 91.8% of accessible web APIs while i) maintaining original functionalities and ii) preventing 76.3% of known exploits on average.
-
- 작성일 2022-09-16
- 조회수 1053
-
- [연구] 우사이먼성일 교수 DASH 연구실, CIKM 2022 국제 학술대회 full paper 논문 5편 게재 승인
- DASH 연구실 신유진(SW학과), 박은주(SW학과), 이광한(AI학과), 이한빈(AI학과), 김정호(AI학과), 신새별(데이터사이언스 학부), Binh M. Le(SW학과), Chingis Oinar(SW학부)의 논문 5편이 full paper가 인공지능 및 정보검색 분야의 top-tier 국제학술대회인 CIKM (Conference on Information and Knowledge Management) 2022 (BK IF=3)에 최종 논문 게재가 승인되어 10월에 발표될 예정입니다. 항공우주연구원과 시계열 기반 괘도 예측 및 이상탐지 연구 (신유진, 박은주) Neural Networks Pruning 연구 (이광한 신새별) 미국 USC와 YouTube의 콘텐츠 Privacy 및 유해성 관련 탐지 모델 개발 연구(Binh M. Le, Chingis Oinar, 국제공동) 호주 CSIRO Data61과 시계열 데이터에 대한 Adversarial Attack 연구(Binh M. Le 국제공동) Self-Knowledge Distillation기법을 제안하여 다양한 비전 테스크 성능향상 연구 (이한빈, 김정호) Thanks to students who did exceptional work! Appreciate their efforts ! 1. Youjin Shin, Eun-Ju Park, Simon S. Woo, Okchul Jung and Daewon Chung, ”Selective Tensorized Multi-layer LSTM for Orbit Prediction”, Proceedings of the 31st ACM International Conference on Information & Knowledge Management. 2022. 본 연구에서는 위성의 궤도를 예측하는 모델로서 Selective Tensorized multi-layer LSTM (ST-LSTM)을 제안합니다. 최근, 위성의 수가 급격하게 늘어남에따라 위성 충돌 위험이 증가하였습니다. 이러한 위성 충돌과 같은 돌발상황을 막기 위해서는 위성의 궤도를 정확하게 예측하는 것이 중요합니다. ST-LSTM은 딥러닝의 웨이트 매트릭스를 텐서화한 tensorizing layer를 멀티레이어 LSTM에 선택적으로 적용합니다. 항공우주연구소 (KARI)에서 제공된 두 개의 실제 위성에 대한 데이터를 가지고 다양한 비교 모델들과 함께 실험한 결과, ST-LSTM은 계산량을 줄이면서도 정확도 또한 높게 유지하였습니다. Although the collision of space objects not only incurs a high cost but also threatens human life, the risk of collision between satellites has increased, as the number of satellites has rapidly grown due to the significant interests in many space applications. However, it is not trivial to monitor the behavior of the satellite in real-time since the communication between the ground station and spacecraft are dynamic and sparse, and there is an increased latency due to the long distance. Accordingly, it is strongly required to predict the orbit of a satellite to prevent unexpected contingencies such as a collision. Therefore, the real-time monitoring and accurate orbit prediction is required. Furthermore, it is necessarily to compress the prediction model, while achieving a high prediction performance in order to be deployable in the real systems. Although several machine learning and deep learning-based prediction approaches have been studied to address such issues, most of them have applied only basic machine learning models for orbit prediction without considering the size, running time, and complexity of the prediction model. In this research, we propose Selective Tensorized multi-layer LSTM (ST-LSTM) for orbit prediction, which not only improves the orbit prediction performance but also compresses the size of the model that can be applied in practical deployable scenarios. To evaluate our model, we use the real orbit dataset collected from the Korea Multi-Purpose Satellites (KOMPSAT-3 and KOMPSAT-3A) of the Korea Aerospace Research Institute (KARI) for 5 years. In addition, we compare our ST-LSTM to other machine learning-based regression models, LSTM, and basic tensorized LSTM models with regard to the prediction performance, model compression rate, and running time. 2. Gwanghan Lee, Saebyeol Shin, and Simon S. Woo, ”Accelerating CNN via Dynamic Pattern‑based Pruning Network”, Proceedings of the 31st ACM International Conference on Information & Knowledge Management. 2022. 본 연구에서는 실제 가속이 가능한 dynamic pruning method를 제안합니다. 기존의 dynamic pruning method는 매 인풋샘플마다 sparse pattern이 다르기에, 가속을 위해 수행되는 추가적인 오버헤드때문에 실제 가속까지 이루어지기 어려웠습니다. 본 논문에서는 이를 해결하기 위해 새로운 dynamic pruning method를 제안하며, convolution kernel의 representational power를 높여 성능을 높였을 뿐만 아니라 BLAS 라이브러리를 이용해 쉽게 가속이 이루어질 수 있게 만들었습니다. 이를 통해 CIFAR과 ImageNet 데이터셋에서 실험한 결과 기존의 SOTA 방법론에 비해 연산량 대비 정확도가 향상됨을 보였습니다. Most dynamic pruning methods fail to achieve actual acceleration due to the extra overheads caused by indexing and weight-copying to implement the dynamic sparse patterns for every input sample. To address this issue, we propose Dynamic Pattern-based Pruning Network, which preserves the advantages of both static and dynamic networks. Unlike previous dynamic pruning methods, our novel method dynamically fuses static kernel patterns, enhancing the kernel's representational power without additional overhead. Moreover, our dynamic sparse pattern enables an efficient process using BLAS libraries, accomplishing actual acceleration. We demonstrate the effectiveness of the proposed network on CIFAR and ImageNet, outperforming the state-of-the-art methods achieving better accuracy with lower computational cost. 3. Binh M. Le, Rajat Tandon, Chingis Oinar, Jeffrey Liu, Uma Durairaj, Jiani Guo, Spencer Zahabizadeh, Sanjana Ilango, Jeremy Tang, Fred Morstatter, Simon Woo and Jelena Mirkovic, ”Samba: Identifying Inappropriate Videos for Young Children on YouTube”, Proceedings of the 31st ACM International Conference on Information & Knowledge Management. 2022. 본 논문에서는 어린이용 유튜브 동영상을 분류하기위해 메타데이터와 비디오 자막을 모두 사용하는 Samba라는 퓨전 모델을 제안합니다. 기존 연구는 어린이들이 보기에 부적절한 비디오를 감지하기 위해 비디오 썸네일, 제목, 댓글 등과 같은 메타데이터를 활용했습니다. 이러한 메타데이터 기반 접근법은 높은 정확도를 달성하지만, 입력 feature의 신빙성으로 인해 상당한 오분류 결과를 가집니다. Self-supervised contrastive 프레임워크로 pre-train된, 자막에서의 representation feature를 추가함으로써, Samba 모델은 다른 SOTA 분류기보다 7% 이상 높은 성능을 보입니다. 또한 향후 연구를 장려하기 위해 7만여개의 영상도 함께 공개합니다. In this paper, we propose a fusion model, called Samba, which uses both metadata and video subtitles for content classifying YouTube videos for kids. Previous studies utilized metadata, such as video thumbnails, title, comments, ect., for detecting inappropriate videos for young viewers. Such metadata-based approaches achieve high accuracy but still have significant misclassifications due to the reliability of input features. By adding representation features from subtitles, which are pretrained with a self-supervised contrastive framework, our Samba model can outperform other state-of-the-art classifiers by at least 7%. We also publish a large-scale, comprehensive dataset of 70K videos for future studies. 4. Shahroz Tariq, Binh M. Le and Simon Woo, ”Towards an Awareness of Time Series Anomaly Detection Models' Adversarial Vulnerability”, Proceedings of the 31st ACM International Conference on Information & Knowledge Management. 2022. 본 연구에서는 시계열 데이터의 이상(anomaly) 검출기의 적대적 취약성에 대한 인식을 높이는 것을 목표로 하여, 센서 데이터에 약간의 적대적 섭동(adversarial perturbation)을 추가함에도 이상 감지 시스템이 심각하게 약화되는 것을 보입니다. 이상 현상(anomaly)에 대해 견고하며 실제 시스템에서 사용될 수 있다고 주장하는 SOTA 심층 신경망(DNN)과 그래프 신경망(GNN)의 성능이 FGSM(Fast Gradient Sign Method)과 PGD(Projected Gradient Descent)와 같이 잘 알려진 적대적 공격에서 0%로 떨어진다는 것을 보입니다. 우리가 아는 한, 본 연구는 적대적 공격에 대한 이상 감지 시스템의 취약성을 처음으로 입증하였습니다. Time series anomaly detection is studied in statistics, ecology, and computer science. Numerous time series anomaly detection strategies have been presented utilizing deep learning. Many of these methods exhibit state-of-the-art performance on benchmark datasets, giving the false impression that they are robust and deployable in a wide variety of real-world scenarios. In this study, we demonstrate that adding modest adversarial perturbations to sensor data severely weakens anomaly detection systems. Under well-known adversarial attacks such as Fast Gradient Sign Method (FGSM) and Projected Gradient Descent (PGD), we demonstrate that the performance of state-of-the-art deep neural networks (DNNs) and graph neural networks (GNNs), which claim to be robust against anomalies and possibly be used in real-world systems, drops to 0%. We demonstrate for the first time, to our knowledge, the vulnerability of anomaly detection systems to adversarial attacks. This study aims to increase awareness of the adversarial vulnerabilities of time series anomaly detectors. 5. Hanbeen Lee, Jeongho Kim and Simon Woo, “Sliding Cross Entropy for Self-Knowledge Distillation”, Proceedings of the 31st ACM International Conference on Information & Knowledge Management. 2022. 본 연구에서는 기존 self-knowledge distillation에 결합하여 성능을 향상시키는 Sliding Cross Entropy (SCE)를 제안합니다. Self-distillation을 위한 soft target과 모델의 output logit의 차이를 최소화하기 위하여, 정렬된 각 softmax representation을 특정 윈도우로 나누고, 나누어진 슬라이스끼리의 거리를 최소화합니다. 이를 통하여, 모델은 최적화 과정에서 soft target의 클래스간 관계를 동등하게 고려할 수 있습니다. 다양한 실험을 통하여 본 논문에서 제안하는 SCE가 분류, 객체 탐지, 세그멘테이션에서 기존 베이스라인 방법론을 뛰어넘는 성능을 보여줍니다. Knowledge distillation (KD) is a powerful technique for improving the performance of a small model by leveraging the knowledge of a larger model. Despite its remarkable performance boost, KD has a drawback with the substantial computational cost of pre-training larger models in advance. Recently, a method called self-knowledge distillation has emerged to improve the model's performance without any supervision. In this paper, we present a novel plug-in approach called Sliding Cross Entropy (SCE) method, which can be combined with existing self-knowledge distillation to significantly improve the performance. Specifically, to minimize the difference between the output of the model and the soft target obtained by self-distillation, we split each softmax representation by a certain window size, and reduce the distance between sliced parts. Through this approach, the model evenly considers all the inter-class relationships of a soft target during optimization. The extensive experiments show that our approach is effective in various tasks, including classification, object detection, and semantic segmentation. We also demonstrate SCE consistently outperforms existing baseline methods.
-
- 작성일 2022-08-25
- 조회수 1404