발전기금
-
- [연구] 데이터 지능 및 학습 연구실(지도교수: 이종욱) SIGIR 2025 논문 3편 게재 NEW
- 데이터 지능 및 학습(Data Intelligence and Learning, DIAL, 지도교수: 이종욱) 연구실은 세계 최고 권위의 정보검색 학회인 SIGIR 2025에 3편의 논문이 최종 게재 승인되었으며, 7월에 이탈리아 파도바에서 논문을 발표할 예정입니다. [논문 목록] 1. Why is Normalization Necessary for Linear Recommenders? (SIGIR'25) 2. Linear Item-Item Models with Neural Knowledge for Session-based Recommendation (SIGIR'25) 3. DIFF: Dual Side-Information Filtering and Fusion for Sequential Recommendation (SIGIR'25) 연구 1 : Seongmin Park, Mincheol Yoon, Hye-young Kim, Jongwuk Lee, “Why is Normalization Necessary for Linear Recommenders?”, The 48th International ACM SIGIR Conference on Research and Development in Information Retrieval (SIGIR), 2025 본 연구는 선형 오토인코더 (linear autoencoder, LAE) 기반 추천 시스템이 간단한 구조에도 불구하고 신경망 기반 모델과 비교할 만한 추천 성능과 빠른 추론 속도를 보인다는 점에 착안하였습니다. 그러나 LAE는 인기 있는 아이템을 과도하게 추천하는 인기도 편향 (popularity bias)와 지역적인 아이템 간 상관관계에 지나치게 의존하는 이웃 편향 (neighborhood bias)라는 두 가지 구조적 한계에 직면해 있습니다. 이러한 문제를 해결하기 위해, 본 논문에서는 LAE 모델에 적용할 수 있는 새로운 정규화 방법인 Data-Adaptive Normalization (DAN)을 제안합니다. DAN은 데이터의 특성에 따라 두 가지 bias를 유연하게 제어할 수 있도록 설계된 정규화 기법으로, (i) item-adaptive normalization과 (ii) user-adaptive normalization이라는 두 가지 핵심 컴포넌트로 구성됩니다. 첫 번째로, item-adaptive normalization은 정규화 파라미터 α를 통해 인기 아이템의 영향력을 조절하고 LAE에 denoising 효과를 부여합니다. 이를 통해 기존 LAE가 주로 추천하던 인기 아이템 (head items) 중심의 성능에서 벗어나 (즉, 인기도 편향), 비인기 아이템 (tail items)에 대한 추천 성능을 크게 향상시킬 수 있습니다. 두 번째로, user-adaptive normalization은 파라미터 β를 사용하여 이웃 편향을 제어합니다. 이 기법은 고주파수 성분 (high-frequency components)을 억제하고 중요한 저주파수 성분을 보존함으로써, 지역적인 상관관계보다 전체적인 글로벌 패턴을 더 잘 반영하도록 도와줍니다. DAN의 효과는 여섯 개의 대표적인 추천 데이터셋 (ML-20M, Netflix, MSD, Gowalla, Yelp2018, Amazon-book)에서 실험적으로 검증되었습니다. DAN을 적용한 LAE 모델들 (LAE_DAN, EASE_DAN, RLAE_DAN)은 모든 데이터셋에서 기존 LAE 모델 대비 일관된 성능 향상을 보였으며, tail 아이템과 unbiased 평가에서 최대 각각 128.57%와 12.36%의 성능 향상을 기록하였습니다. 또한 DAN은 최신 협업 필터링 모델들과 비교했을 때도 우수한 성능을 나타냈습니다. 또한, 그림 1 (Case study)은 정규화 방법에 따른 특정 사용자의 추천 결과를 보여주며, 다음과 같은 관찰을 했습니다. (1) 정규화 없는 LAE (W/O)는 사용자가 로맨틱 영화 3편을 시청했음에도 5개 모두 높은 인기도의 액션 영화만 추천합니다. 반면, 세 가지 정규화 방법 (RW, Sym, DAN)은 사용자가 본 "Step Up 1"과 관련된 "Step Up 2"를 최상위로 추천하여 사용자 선호도를 효과적으로 반영합니다. (2) DAN은 인기도 편향을 적절히 완화하면서도 사용자 선호도를 유지하는 가장 균형 잡힌 추천을 제공합니다. RW 정규화는 5개 중 4개가 인기 아이템으로, 여전히 인기도 편향이 강합니다. Sym 정규화는 5개 중 4개가 인기 없는 아이템으로, 인기도 편향을 과도하게 완화합니다. DAN은 인기 및 비인기 아이템의 균형을 맞추면서 사용자 선호도에 가장 관련성 높은 아이템을 추천합니다. 그림 1: ML-20M 데이터셋에서 사용자 #91935의 상호작용 이력과 네 가지 정규화 방법의 Top-5 추천 목록. 빨간 테두리는 head (상위 20%) 항목이고, 파란 테두리는 tail (하위 80%) 항목 나아가 본 연구는 데이터셋의 Gini index와 homophily 특성에 따라 정규화 파라미터 (α, β)의 효과가 어떻게 달라지는지 분석하고, 각 데이터셋에 적합한 파라미터 설정 가이드라인도 함께 제시합니다. 이를 통해 제안된 DAN 기법은 데이터 특성에 따라 정교하게 bias를 제어할 수 있는 일반적이고 실용적인 솔루션으로 자리매김할 수 있음을 보여줍니다. 본 논문에 관한 자세한 내용은 다음 주소를 참고해주세요. https://dial.skku.edu/blog/2025_dan 연구 2 : Minjin Choi, Sunkyung Lee, Seongmin Park, Jongwuk Lee, “Linear Item-Item Models with Neural Knowledge for Session-based Recommendation”, The 48th International ACM SIGIR Conference on Research and Development in Information Retrieval (SIGIR), 2025 본 연구는 사용자의 현재 세션 내 상호작용을 기반으로 다음 행동을 예측하는 세션 기반 추천(Session-based Recommendation, SBR) 문제에 주목합니다. SBR 분야는 크게 두 가지 패러다임으로 나뉩니다. 하나는 복잡한 순차적 전이 패턴을 포착하는 데 강점을 보이는 신경망 기반 모델이며, 다른 하나는 아이템 간의 동시 등장 패턴을 효과적으로 학습하고 빠른 추론 속도를 제공하는 선형 아이템-아이템 모델입니다. 그러나 각 패러다임은 서로 다른 종류의 아이템 관계를 포착하는 데 특화되어 있으며, 신경망 모델의 높은 정확성과 선형 모델의 효율성을 동시에 달성하기 위한 효과적인 통합 방안은 아직 부족한 실정입니다. 이러한 배경 하에, 본 논문에서는 선형 모델과 신경망 모델의 지식을 효과적으로 통합하는 새로운 SBR 모델인 LINK (Linear Item-Item model with Neural Knowledge)를 제안합니다. LINK는 두 가지 유형의 지식을 하나의 통합된 선형 프레임워크 내에서 결합하여, 높은 정확도와 빠른 추론 속도라는 두 마리 토끼를 잡는 것을 목표로 합니다. 이를 위해 LINK는 두 가지 핵심 구성 요소를 포함합니다. (i) LIS (Linear knowledge-enhanced Item-item Similarity model)는 자기 증류(self-distillation) 기법을 통해 선형 모델 자체의 아이템 유사성(동시 등장) 포착 능력을 강화하고 세션 간의 고차원적 관계까지 학습합니다. (ii) NIT (Neural knowledge-enhanced Item-item Transition model)는 사전 학습된 임의의 신경망 모델로부터 복잡한 순차적 전이 지식을 증류하여, 이를 선형 모델 학습 시 정규화 항으로 활용하는 독창적인 방식을 통해 신경망의 지식을 선형 모델에 효과적으로 주입합니다. 그림 2에서 보이는 바와 같이, LINK 모델의 효과는 Diginetica, Retailrocket, Yoochoose 등 여섯 개의 실제 SBR 데이터셋을 사용한 광범위한 실험을 통해 검증되었습니다. 실험 결과, LINK는 모든 데이터셋에서 기존의 최첨단 선형 SBR 모델들(SLIST, SWalk 등) 대비 일관되고 큰 폭의 성능 향상(Recall@20 기준 최대 14.78%, MRR@20 기준 최대 11.04%)을 달성했습니다. 이는 선형 모델의 한계를 신경망 지식 통합을 통해 성공적으로 극복했음을 보여줍니다. 더불어 LINK는 복잡한 최신 신경망 모델들과 비교했을 때도 경쟁력 있는, 혹은 더 우수한 예측 정확도를 보이면서도, 선형 모델의 핵심 장점인 높은 추론 효율성(최대 813배 적은 FLOPs)을 그대로 유지하였습니다. 추가 분석을 통해 선형 모델이 비인기 아이템 간의 관계에 강점을 보이고 신경망 모델이 인기 아이템의 복잡한 패턴에 강점을 보이는데, LINK가 이 두 가지 강점을 효과적으로 결합하여 균형 잡힌 성능을 달성함을 확인했습니다. 그림 2: 정확도(Recall@20)와 추론 연산량(FLOPs) 비교 결론적으로, LINK는 SBR 분야에서 정확성과 효율성 사이의 실질적인 균형점을 제공하는 새로운 하이브리드 접근 방식을 제시합니다. 특히 NIT 컴포넌트는 특정 신경망 아키텍처에 구애받지 않고 다양한 모델의 지식을 활용할 수 있는 유연성을 제공하여, 향후 신경망 모델의 발전에 따라 지속적으로 성능 개선이 가능한 실용적인 솔루션입니다. 본 논문에 관한 자세한 내용은 다음 주소를 참고해주세요. https://dial.skku.edu/blog/2025_link 연구 3 : Hye-young Kim, Minjin Choi, Sunkyung Lee, Ilwoong Baek, Jongwuk Lee, “DIFF: Dual Side-Information Filtering and Fusion for Sequential Recommendation”, The 48th International ACM SIGIR Conference on Research and Development in Information Retrieval (SIGIR), 2025 본 연구는 사용자의 과거 소비 이력을 바탕으로 다음에 선호할만한 항목을 예측하는 순차적 추천(Sequential Recommendation)에서 카테고리, 브랜드 등 아이템 부가 정보를 함께 활용하는 부가 정보 통합 순차적 추천(Side-information Integrated Sequential Recommendation, SISR)모델을 제안합니다. 제안 모델인 Dual Side-Information Filtering and Fusion (DIFF)는 사용자 시퀀스 내 노이즈를 제거하고, 다양한 속성 정보를 효과적으로 융합함으로써 더욱 정밀하고 표현력 있는 사용자 선호 모델링을 달성합니다. DIFF는 다음과 같은 세 가지 핵심 기법을 포함합니다: 그림 3: 부가 정보 통합 순차적 추천 시스템의 주파수 신호와 융합 기법 (1) 주파수 기반 노이즈 필터링 (Frequency-based Noise Filtering): DIFF는 우발적 클릭 또는 단기적 관심과 같이 실제 사용자 선호와 관련없는 신호를 제거하기 위해 주파수 영역으로의 변환을 수행합니다. 아이템 ID와 각 속성 시퀀스를 각각 주파수 영역으로 변환한 뒤, 불규칙적이거나 중요도가 낮은 주파수 성분을 제거합니다. 이를 통해 실제 사용자 선호를 반영하는 핵심 신호만을 강화할 수 있으며, 다중 시퀀스에 대해 필터링을 적용함으로써 보다 정교한 노이즈 제거를 가능하게 합니다. (2) 이중 멀티시퀀스 융합 (Dual Multi-sequence Fusion): 노이즈가 제거된 시퀀스들을 효과적으로 통합하기 위해, DIFF는 서로 다른 장점을 지니는 중간 융합과 초기 융합 방식을 함께 활용합니다. 저희는 기존 연구들이 정보 침식(information invasion) 문제를 우려하여 초기 융합 방식의 활용은 제한하거나 배제하는 경향이 있었으며, 이로 인해 다양한 속성 간 상관관계 모델링 능력을 간과하고 있다는 점에 주목하였습니다. DIFF는 초기 융합을 통해 다차원 속성 정보를 통합하고, 중간 융합을 통해 ID 중심의 선호 학습을 보완함으로써, ID와 속성 모두를 아우르는 정교한 사용자 표현을 학습합니다. 두 융합 방식의 상호보완적 조합을 통해 DIFF는 사용자 취향의 전반적인 구조뿐만 아니라 세부적인 속성 선호까지도 효과적으로 포착할 수 있습니다. (3) 정보 침식(information invasion) 방지를 위한 표현 정렬(representation alignment): 아이템 ID와 각 속성 임베딩은 서로 다른 표현 공간에 위치합니다. 따라서 이를 단순한 융합 함수(e.g. summation, concatenation, gating)로 합치는 초기 융합에서는 특정 정보가 과도하게 강조되거나 왜곡되는 정보 침식(information invasion) 문제가 발생할 수 있습니다. 이를 방지하기 위해 DIFF에서는 정렬 손실(Alignment Loss)을 설계하여, 아이템 ID와 속성 임베딩의 벡터 공간을 가깝게 만들어, 의미를 공유하면서도 적절한 차이를 유지할 수 있도록 유도합니다. DIFF는 네 개의 대표적인 공개 벤치마크 데이터셋(Yelp, Beauty, Toys, Sports)에서 검증되었으며, 기존 최신 순차 추천 모델들과 비교해 모든 지표에서 우수한 성능을 달성하였습니다. 특히, Recall@20과 NDCG@20 기준으로 각각 최대 14.1%, 12.5%의 성능 향상을 기록하며 새로운 state-of-the-art 성능을 입증하였습니다. 또한, DIFF의 노이즈에 대한 강건성(robustness)은 매우 두드러졌습니다. 사용자 시퀀스에 우발적인 클릭, 일시적인 관심 변화 등 현실적인 사용 환경에서의 노이즈를 고려해 테스트 시퀀스에 무작위로 아이템을 교체하는 방식으로 노이즈 시뮬레이션 실험을 진행하였습니다. 그 결과, DIFF는 5%의 낮은 노이즈 조건에서도 타 모델 대비 가장 적은 성능 저하를 보였으며, 25%의 높은 노이즈 조건에서도 안정적으로 높은 성능을 유지했습니다. 본 논문에 관한 자세한 내용은 다음 주소를 참고해주세요. https://dial.skku.edu/blog/2025_diff
-
- 작성일 2025-04-22
- 조회수 92
-
- [연구] LAMDA Lab 박혜진, 이지윤 학생(지도교수 : 오하영), PAKDD(Pacific-Asia Conference on Knowledge Discovery and Data Mining) 학회 논문 게재
- 오하영 교수 연구실 LAMDA Lab에서 박혜진, 이지윤 학생이 발표한 FinTab-LLaVA: Finance Domain-Specific Table Understanding with Multimodal LLM using FinTMD 논문이 PAKDD (Pacific-Asia Conference on Knowledge Discovery and Data Mining)의 Full Paper로 Accept되어 Oral Presentation을 진행하게 되었다. 논문의 내용은 금융 도메인 특화 멀티모달 LLM인 FinTab-LLaVA 개발에 관한 연구로, 금융 테이블 데이터셋 FinTMD를 구축하고, Curriculum Learning 방식을 적용해 금융 도메인 지식 학습 및 테이블 이해 능력을 단계적으로 강화하여 금융 테이블 기반 질의응답, 사실 검증, 설명 생성 태스크에서 우수한 성능을 보이는 모델을 소개한다. PAKDD (Pacific-Asia Conference on Knowledge Discovery and Data Mining)는 1997년 첫 개최되어 올해로 29회를 맞은 데이터 과학, 데이터 마이닝, 지식 발견 분야의 권위 있는 학회로, 오는 6월 10일부터 6월 13일까지 호주 시드니에서 개최된다.
-
- 작성일 2025-04-09
- 조회수 708
-
-
- [연구] 김재광 교수 연구실(기계지능연구실, mainLab.), The 48th International ACM SIGIR 2025 논문 게재 승인
- 김재광 교수 연구실(기계지능연구실, mainLab.), The 48th International ACM SIGIR Conference on Research and Development in Information Retrieval 논문 게재 승인 기계지능연구실 (지도교수: 김재광, https://mainlab.skku.edu)의 이남준(석사과정) 학생과 김재광 교수가 진행한 "SEALR: Sequential Emotion-Aware LLM-Based Personalized Recommendation System" 논문이 Information Retrieval 및 Intelligence 분야 에서 최우수 학술대회인 ACM SIGIR 2025 Short paper에 게재 승인되었습니다. 이번 연구는 감정 인식 기반 순차적 LLM 개인화 추천 시스템(SEALR)을 제안합니다. SEALR은 사용자 리뷰를 분석하여 시간 순서에 따른 감정 변화를 추적하고, 이를 기반으로 감정 레이블을 추출합니다. 이러한 감정 정보는 사용자의 선호도 변화를 보다 정밀하게 반영할 수 있도록 도와줍니다. 특히 사용자의 행동 데이터를 기반으로 생성된 후보 아이템과 감정 정보를 LLM에 통합 입력하여 개인화된 추천 결과를 도출하는데, 다양한 후보 아이템 수와 LLM 미세 조정 비율을 실험 변수로 설정해, 추천 정확도와 탐색 사이의 최적 균형을 탐색하였다는 점에서 의미가 있습니다. 아마존 리뷰 데이터를 활용한 실험 결과, SEALR은 기존 추천 방식 대비 의미 있는 성능 향상을 보였으며, 감정 정보와 행동 데이터의 통합이 추천 품질 향상에 효과적임을 확인했습니다. Abstract Large Language Models (LLMs) have demonstrated exceptional performance across various natural language processing tasks, driving significant advancements in language understanding and generation. However, their applicability in recommendation systems remains an area that requires further investigation. This study proposes the Sequential Emotion-Aware LLM-Based Personalized Recommendation System (SEALR) to harness this potential. SEALR applies sentiment analysis to user-generated textual reviews to sequentially track emotional changes for each user and extract sentiment labels. In addition, we design a novel framework that integrates candidate items generated by sequential models with user behavior data into an LLM to provide more precise and personalized recommendations. Our experiments investigate the impact of varying candidate pool sizes and instruction-based fine-tuning ratios, adopting an experimental methodology to optimize the trade-off between recommendation accuracy and exploration. To validate the effectiveness of the proposed approach, we conducted comparative experiments using Amazon datasets against existing recommendation methods, demonstrating meaningful performance improvements. Specifically, the combination of sentiment information and user behavior data contributed to enhancing recommendation performance, demonstrating the potential to accommodate diverse user preferences and contexts.
-
- 작성일 2025-04-09
- 조회수 522
-
- [연구] 김형식 교수 연구실(보안공학연구실, SecLab), IEEE Symposium on Security and Privacy (S&P) 2025 논문 게재 승인
- 보안공학 연구실 (지도교수: 김형식, https://seclab.skku.edu)의 김은수(박사과정) 학생과 김형식 교수가 진행한 "Open Sesame! On the Security and Memorability of Verbal Passwords"논문이 컴퓨터 보안 분야에서 최우수 학술대회인 IEEE Symposium on Security and Privacy (S&P) 2025에 게재 승인되었습니다. 이번 연구는 미국 테네시 대학교(University of Tennessee)의 김두원 교수와 보안공학 연구실 졸업생인 이기호 연구원(ETRI)이 참여하여 연구를 진행하였습니다. 연구진은 두 차례의 대규모 사용자 실험을 통해 음성으로 전달하는 패스워드 (verbal password)의 보안성과 기억 용이성을 정량적으로 분석하여, 기존 텍스트 비밀번호의 한계를 극복할 수 있는 실질적이고 안전한 대안임을 입증하였습니다. 첫 번째 사용자 실험에서는 2,085명의 사용자가 자유롭게 생성한 음성 패스워드를 대상으로 장/단기 기억력 및 보안성을 분석하였습니다. 보안성 테스트에서 2천만개 이상의 Common English 문구들로 학습된 PassphraseGPT 모델을 통해 사용자가 생성한 음성 패스워드의 약 39.76%가 10억 번의 추측 시도 이내에 예측될 정도로 취약하다는 것을 밝혔습니다. 하지만 두 번째 사용자 실험(600명 대상)에서는 단어 최소 개수 제한과 금지어 목록(blocklist)을 활용한 비밀번호 생성 정책을 적용하여 음성 패스워드의 기억 용이성을 보장하면서 보안성을 현저히 개선했습니다. 사용자들의 장기 기억 실험에서 비밀번호 생성 정책을 적용한 음성 패스워드 사용자 그룹의 65.6%가 성공적으로 비밀번호를 기억하여, 기존 텍스트 비밀번호(54.11%) 대비 높은 기억 성능을 보였습니다. 또한, 비밀번호 추측공격에 의해 예측 가능한 verbal password의 비율이 텍스트 비밀번호 보다 낮아, 공격에 더 효과적으로 저항할 수 있음을 입증했습니다. 이번 연구는 키보드 입력이 불가능하거나 불편한 상황(스마트 어시스턴트, 웨어러블 기기, 차량 환경, VR/AR 환경)에서 언어 비밀번호가 텍스트 비밀번호를 효과적으로 대체할 수 있는 실용적이며 보안성 높은 대안임을 제시했다는 점에서 높은 평가를 받았습니다. 연구 발표는 2025년 5월, 미국 캘리포니아 주 샌프란시스코에서 진행될 예정입니다. Abstract Despite extensive research on text passwords, the security and memorability of verbal passwords—spoken rather than typed—remain underexplored. Verbal passwords hold significant potential for scenarios where keyboard input is impractical (e.g., smart speakers, wearables, vehicles) or users have motor impairments that make typing difficult. Through two large-scale user studies, we assessed the viability of verbal passwords. In our first study (N = 2,085), freely chosen verbal passwords were found to have a limited guessing space, with 39.76% cracked within 10^9 guesses. However, in our second study (n = 600), applying word count and blocklist policies for verbal password creation significantly enhanced verbal password performance, achieving better memorability and security than traditional text passwords. Specifically, 65.6% of verbal password users (under the password creation policy using minimum word counts and a blocklist) successfully recalled their passwords in long-term tests, compared to 54.11% for text passwords. Additionally, verbal passwords with enforced policies exhibited a lower crack rate (6.5%) than text passwords (10.3%). These findings highlight verbal passwords as a practical and secure alternative for contexts where text passwords are infeasible, offering strong memorability with robust resistance to guessing attacks.
-
- 작성일 2025-03-31
- 조회수 835
-
- [연구] 김형식 교수 연구실 (보안공학연구실, SecLab),WWW 2025에 논문 2편 Oral 세션 채택
- 보안공학연구실(지도교수: 김형식)은 미국 테네시 대학교(University of Tennessee)의 김두원 교수와 공동으로 수행한 연구 결과 2편이 웹 분야 최우수 국제학술대회인 The Web Conference (WWW) 2025에 Oral 세션으로 채택되었습니다. 이번 연구에는 보안공학연구실 졸업생 이기호 연구원(현 ETRI)이 테네시 대학교 방문 연구원으로 참여하여 김형식 교수와 함께 연구를 공동 수행하였습니다. 두 논문 모두 대규모 실증 데이터를 기반으로 피싱 공격의 특성과 구조를 정량적으로 분석하였으며, 피싱 공격에 대한 근본적인 이해와 새로운 대응 전략을 제시했다는 점에서 높은 평가를 받았습니다. 논문 발표는 2025년 5월, 호주 시드니에서 진행될 예정입니다. 논문1 . 7 Days Later: Analyzing Phishing-Site Lifespan After Detected 본 논문은 피싱 사이트의 탐지 이후 생존 기간 및 변화 양상을 분석한 실증 연구입니다. 5개월간 286,237개의 피싱 URL을 30분 간격으로 추적하여 피싱 사이트의 공격 패턴을 분석하여, 왜 기존 피싱 탐지 전략의 효과가 떨어지는지를 분석하였습니다. 피싱 사이트의 경우, 평균 생존 시간 54시간, 중앙값은 5.46시간으로 짧기 때문에, 피싱 사이트를 훈련하고, 탐지하는 접근 방법의 한계성을 분석하였습니다. 예를 들어, Google Safe Browsing은 평균 4.5일 후 탐지를 수행하는데, 피싱 사이트의 84%는 탐지 전에 이미 종료하여, 실질적인 탐지는 한계를 갖는다는 것을 보여줬습니다. 논문2 . What's in Phishers: A Longitudinal Study of Security Configurations in Phishing Websites and Kits 본 논문은 2년 7개월간 수집한 906,731개의 피싱 웹사이트와 13,344개의 피싱 키트 데이터를 종합 분석하여, 피싱 인프라의 보안 설정과 구조적 취약점을 시스템적으로 분석한 연구입니다. 피싱 사이트의 구조적 취약점을 활용해 공격 인프라를 능동적으로 무력화할 수 있는 전략을 제안하여 기존의 수동적 탐지·차단 방식에서 벗어나, 피싱 사이트를 조기 차단하는 새로운 대응 방향을 제시했다는 점에서 주목받았습니다.
-
- 작성일 2025-03-27
- 조회수 910
-
- [연구] 이호준 교수 연구실 (SSLab) IEEE S&P 2025 논문 게재 승인
- [이호준 교수 연구실 (SSLab) IEEE S&P 2025 논문 게재 승인] 시스템보안 연구실 (SSLab, 지도교수: 이호준)의 논문이 보안 분야 4대 최우수 국제학회 중 하나인 IEEE S&P (IEEE Symposium on Security and Privacy) 2025에 게재승인되었습니다. 논문은 5월 미국 캘리포니아 주 샌프란시스코에서 발표될 예정입니다. 아래는 논문의 주요 내용입니다. 논문명: IncognitOS: A Practical Unikernel Design for Full-System Obfuscation in Confidential Virtual Machines 저자: Kha Dinh Duy, Jaeyoon Kim, Hajeong Lim, Hojoon Lee 논문 요약: 최근 연구들은 사이드 채널 공격이 Intel SGX와 같은 신뢰 실행 환경(TEE)의 기밀성을 무력화할 수 있음을 반복적으로 입증해왔다. 한편, 클라우드 환경에서는 기밀 가상머신(CVM) 기술로의 전환이 진행 중이지만, 기존의 사이드 채널 공격 중 일부는 여전히 유효하며, CVM을 대상으로 한 새로운 공격 기법도 등장하고 있다. 기존 연구들은 SGX 인클레이브를 보호하는 방어 기법을 탐색해왔으나, CVM 기반 난독화 실행 엔진에 대한 연구는 해결해야할 난제가 많음에도 아직 미흡한 상황이다. 이에 본 논문에서는 CVM 기반 클라우드 워크로드의 전 시스템 난독화(full-system obfuscation)를 제공하는 유니커널(Unikernel) "IncognitOS"를 제안한다. IncognitOS는 유니커널의 장점을 극대화 하여 최소화된 신뢰 컴퓨팅 기반(TCB)과 하드웨어 직접 접근을 활용하여 난독화를 실현하며, 스케줄러 및 메모리 관리 시스템의 재구성을 통해 적응형 난독화(adaptive obfuscation) 기법을 구현한다. IncognitOS의 스케줄러는 하이퍼바이저의 타이머 인터럽트에 의존하지 않고 독립적으로 실행되어, 기존 연구에서 제시된 하이퍼바이저에 대한 안전하지 않은 의존성을 제거한다. 또한 하이퍼바이저가 실행 제어권을 확보하는 빈도(VMExit 발생률)를 정밀하게 측정하여 메모리 재난독화(memory rerandomization) 빈도를 동적으로 조정한다. 또한 페이징 서브시스템은 MMU에 직접 접근하여 난독화함으로써 보안을 강화하는 한편, 어플리케이션에 대해 영향을 주지 않는 투명한 (transparent) 난독화 기능을 구현한다. 평가 결과, IncognitOS는 CVM 대상 사이드 채널 공격에 강한 저항성을 제공하며, 적응형 난독화 기법을 통해 실사용 가능한 성능을 유지함을 입증한다. 이를 통해, CVM 환경에서의 안전한 배포 전략으로서 자체 난독화(self-obfuscating) 유니커널의 가능성을 제시한다. Recent works have repeatedly proven the practicality of side-channel attacks in undermining the confidentiality guarantees of Trusted Execution Environments such as Intel SGX. Meanwhile, the trusted execution in the cloud is witnessing a trend shift towards confidential virtual machines (CVMs). Unfortunately, several side-channel attacks have survived the shift and are feasible even for CVMs, along with the new attacks discovered on the CVM architectures. Previous works have explored defensive measures for securing userspace enclaves (i.e., Intel SGX) against side-channel attacks. However, the design space for a CVM-based obfuscation execution engine is largely unexplored. This paper proposes a unikernel design named IncognitOS to provide full-system obfuscation for CVM-based cloud workloads. IncognitOS fully embraces unikernel principles such as minimized TCB and direct hardware access to render full-system obfuscation feasible. IncognitOS retrofits two key OS components, the scheduler and memory management, to implement a novel adaptive obfuscation scheme. IncognitOS's scheduling is designed to be self-sovereign from the timer interrupts from the untrusted hypervisor with its synchronous tick delivery. This allows IncognitOS to reliably monitor the frequency of the hypervisor's possession of execution control (i.e., VMExits) and adjust the frequency of memory rerandomization performed by the paging subsystem, which transparently performs memory rerandomization through direct MMU access. The resulting IncognitOS design makes a case for self-obfuscating unikernel as a secure CVM deployment strategy while further advancing the obfuscation technique compared to previous works. Evaluation results demonstrate IncognitOS's resilience against CVM attacks and show that its adaptive obfuscation scheme enables practical performance for real-world programs.
-
- 작성일 2025-03-17
- 조회수 1025
-
- [연구] 우사이먼 교수 연구실(DASH Lab), TheWebConf (WWW) 2025 Short Paper 3편 게재 승인
- Data-driven AI & Security HCI Lab (DASH Lab, 지도교수: 우사이먼성일)의 Short paper 3편이 웹관련 BK Computer Science 최우수 국제 학술대회인 TheWebConf (WWW)에 게재 승인되었습니다. 논문은 4월 호주 시드니에서 발표될 예정입니다. 논문1. Towards Safe Synthetic Image Generation On the Web: A Multimodal Robust NSFW Defense and Million Scale Dataset, WWW 2025 저자: Muhammad Shahid Muneer (소프트웨어학과 박사과정), 우사이먼성일 (성균관대 소프트웨어학과 교수) 최근 Text-to-Image(T2I) 모델이 발전하면서 유해한 NSFW 콘텐츠 생성 및 악용 문제가 대두되고 있습니다. 이를 방지하기 위해 NSFW 필터 및 보안 장치가 도입되었지만, 최근 연구에 따르면 적대적 공격(adversarial attack)을 통해 쉽게 우회할 수 있습니다. 현재 대규모 멀티모달(NSFW) 데이터셋이 부족한 문제를 해결하기 위해, 본 연구에서는 오픈소스 확산 모델(diffusion model)을 활용해 대규모 프롬프트-이미지 데이터셋을 구축하고, 강건한 NSFW 탐지 모델을 개발했습니다. 실험 결과, 제안된 모델은 기존 최신(SOTA) 탐지 방법보다 정확도 및 재현율이 높고, 적대적 공격 성공률(ASR)을 크게 감소시키는 효과를 보였습니다. 논문2. Fairness and Robustness in Machine Unlearning, WWW 2025 저자: Khoa Tran (소프트웨어학과 석박통합과정), 우사이먼 성일 (성균관대학교 소프트웨어학과 교수) 머신 언러닝(Machine Unlearning)은 사전 학습된 모델에서 특정 데이터의 영향을 제거하는 문제로, 개인정보 보호와 관련된 중요한 과제입니다. 기존 근사적 언러닝(Approximated Unlearning) 기법은 정확성과 시간 효율성을 강조했지만, 완전한(Exact) 언러닝을 달성하지 못한다고 지적하며, 우리는 최초로 공정성과 강건성을 고려한 연구를 수행했습니다. 본 연구에서는 공정성 가설(Fairness Conjectures)을 바탕으로 강건성과의 관계를 분석하였으며, 실험 결과 공정성 격차(Fairness-Gap)가 클수록 모델이 더 취약해진다는 사실을 확인했습니다. 또한, 최신 근사적 언러닝 기법이 적대적 공격(Adversarial Attack)에 취약하며, 이로 인해 모델 성능이 크게 저하됨을 입증했습니다. 이에 따라, 공정성 격차 측정(Fairness-Gap Measurement)과 강건성 지표(Robustness Metric)가 언러닝 평가에 필수적으로 사용되어야 한다고 주장합니다. 마지막으로, 모델의 중간층과 최종층에서의 언러닝만으로도 충분한 효과를 내면서, 시간과 메모리 효율성을 확보할 수 있음을 확인했습니다. 논문3. SADRE: Saliency-Aware Diffusion Reconstruction for Effective Invisible Watermark Removal, WWW 2025 저자: Inzamamul Alam (소프트웨어학과 박사과정), 우사이먼 성일 (성균관대학교 소프트웨어학과 교수) 기존 워터마킹 기술의 강건성 부족 문제를 해결하기 위해, 본 연구에서는 SADRE(Saliency-Aware Diffusion Reconstruction)라는 새로운 워터마크 제거 프레임워크를 제안합니다. SADRE는 살리언시 마스크(saliency mask)를 활용한 노이즈 주입 및 확산 기반 복원 기술을 적용하여 이미지의 중요한 부분은 보존하면서 워터마크만 효과적으로 제거합니다. 또한, 적응형 노이즈 조정을 통해 다양한 워터마크 강도에 대응하며, 역확산(reverse diffusion) 과정을 거쳐 고품질의 이미지 복원을 보장합니다. 실험 결과, SADRE는 PSNR, SSIM, Wasserstein 거리, Bit Recovery Accuracy 등 주요 성능 지표에서 최신 워터마킹 기법보다 뛰어난 성능을 보였습니다. 이를 통해 이론적 강건성과 실용적 효과성을 모두 갖춘 새로운 워터마크 제거 솔루션을 제시하며, 실세계 웹 콘텐츠에서 신뢰할 수 있는 기술로 활용될 수 있음을 입증했습니다.
-
- 작성일 2025-03-05
- 조회수 930
-
- [연구] 우사이먼 교수 연구실(DASH Lab), Euro S&P 2025 논문 1편 게재 승인
- Data-driven AI & Security HCI Lab (DASH Lab, 지도교수: 우사이먼 성일)의 논문 1편이 컴퓨터 보안 및 프라이버시 분야의 세계적인 우수 국제 학회인 IEEE European Symposium on Security and Privacy (EuroS&P)에 게재 승인되었습니다. 논문은 올해 6월 이탈리아 베니스에서 발표될 예정입니다. Acceptance rate = 8% (24 paper accepted / 300 submissions) SoK: Systematization and Benchmarking of Deepfake Detectors in a Unified Framework, EuroS&P 2025 저자: Binh Le (1저자, 소프트웨어학과 박사과정), 김지원 (2저자, 소프트웨어학과 박사과정), 우사이먼성일 (교신저자, 성균관대 소프트웨어학과 교수) 논문 링크: https://arxiv.org/abs/2401.04364 이 연구는 호주 연방과학산업연구기구(CSIRO Data61)와 국제공동연구로 진행되었습니다. 최근 딥페이크 기술이 발전하면서 이에 대한 탐지 연구가 활발히 진행되고 있습니다. 하지만 많은 딥페이크 탐지기들은 한계가 명확했었습니다. 본 연구는 최신 딥페이크 탐지 연구를 종합적으로 검토하고, 체계적인 탐지기 평가를 위한 엔드 투 엔드 개념적 프레임워크를 제안하여 딥페이크 탐지 기법을 세부적으로 분류하고 평가할 수 있는 명확한 기준을 제공합니다. 또한, 체계적인 평가 프레임워크를 통한 분석 및 실험과 함께 다양한 유의미한 결론을 도출하며, 보다 효과적인 미래의 딥페이크 탐지 기술 개발을 위한 새로운 관점을 제시합니다.
-
- 작성일 2025-03-05
- 조회수 943
-
- [연구] 우홍욱 교수 연구실 (CSI연구실), ICLR 2025 논문 게재 승인
- [우홍욱 교수 연구실 (CSI연구실), ICLR 2025 논문 게재 승인] CSI연구실 (지도교수: 우홍욱)의 논문이 인공지능 분야 우수학회인 ICLR2025 (The 13th International Conference on Learning Representations)에 2편 논문이 게재 승인(Accept) 되었습니다. 논문은 25년 4월 싱가포르 싱가포르 엑스포에서 발표될 예정입니다. 1. 논문 “Model Risk-sensitive Offline Reinforcement Learning” 은 소프트웨어학과 유광표 (박사과정) 연구원이 저자로 참여했습니다. 본 연구에서는 로봇, 금융 등 실사간 의사결정이 중요한 미션 크리티컬 분야에 활용되는 위험 민감 강화학습(Model Risk-sensitive RL) 프레임워크를 제안하며, 특히 모델 위험에 민감한 오프라인 강화학습 기법(MR-IQN)을 기술합니다. MR-IQN은 모델이 학습한 데이터와 실제 환경과 달라 정확도가 떨어지더라도, 이에 대한 최악의 경우, 즉 “모델 위험”의 손실을 최소화하는 것을 목적합니다. 이를 위해, 데이터 포인트에 대한 모델의 신뢰도를 계산하고, 각 데이터 포인트당 모델 위험을 계산하는 비평가 앙상블 척도(Critic-Ensemble Criterion)와 오프라인 상황으로 인해 실제 정책의 가치함수와 추론된 정책 가치의 평균 및 분산의 괴리를 제한하는 푸리에 특성 네트워크(Fourier Feature Network) 을 결합합니다. MR-IQN은 MT-Sim(금융 거래 환경)와 AirSim(자율주행 시뮬레이터) 실험에서 다른 최신 위험 민감 강화학습 기법보다 낮은 위험과 높은 평균의 성능을 달성하였습니다. 2. 논문 “NeSyC: A Neuro-symbolic Continual Learner For Complex Embodied Tasks In Open Domains” 은 소프트웨어학과 최원제 (박사과정), 인공지능학과 박진우 (석사과정), 소프트웨어학과 안상현 (석사과정), 이대희 (석박통합과정) 연구원이 저자로 참여했습니다. 본 연구는 오픈도메인 물리환경과 상호작용 시 요구되는 지식 (Actionable Knowledge)을 체득된 경험을 통해 다양한 태스크에 적용할 수 있도록 지속적으로 일반화하는 뉴럴-심볼릭 지속 학습자, Neuro-symbolic Continual Learner (NeSyC) 프레임워크를 제안합니다. NeSyC는 인간의 사고 체계인 가설-연역 (hypothetico-deductive) 구조를 모방하여 오픈 도메인에서의 지속적으로 일반화 성능을 향상하는데, 이를 위해, (1) LLM과 심볼릭 도구를 활용해 체득된 경험에서 가설을 반복적으로 생성하고 검증하는 대조적 일반성 향상(Contrastive generality improvement) 기법을 수행합니다. 또한, (2) 메모리 기반 모니터링(Memory-based monitoring)으로 체화형 에이전트(Embodied agent)의 행동 오류를 실시간 감지하고, 지식 보완(Knowledge refinement)을 실행하여, 최종적인 에이전트의 오픈도메인에서의 다양한 태스크 수행 성능, 즉 일반화 성능을 향상합니다. NeSyC는 ALFWorld, VirtualHome, Minecraft, RLBench, 그리고 실세계 로봇 테이블탑 시나리오 등 다양한 벤치마크 환경에서 평가되었습니다. 그 결과, NeSyC는 동적 변화가 있는 오픈도메인 환경 전반에서 강건한 성능을 보였으며, AutoGen, ReAct, CLMASP 등 최신 SOTA를 능가하는 태스크 성공율을 확인하였습니다. CSI 연구실은 Embodied Agent, Reinforcement Learning, Self-Learning 기술을 활용하여 네트워크, 클라우드 시스템 최적화 연구와 로봇, 드론 자율주행 연구 등을 수행하고 있습니다. 우홍욱 | hwoo@skku.edu | CSI Lab | https://sites.google.com/view/csi-agent-group
-
- 작성일 2025-02-10
- 조회수 1482