FMD

Abstract

의료 데이터셋은 종종 크기가 크고 민감한 정보를 포함하고 있어 데이터 공유와 저장에 있어 상당한 어려움이 있다. 이러한 문제를 해결하기 위해 본 논문에서는 데이터 압축과 개인 정보 보호를 동시에 달성하는 새로운 방법인 '융합 매칭 증류(Fused Matching Distillation, FMD)'를 소개한다. FMD는 기존 데이터셋을 증류하는 여러 기술을 결합하여, 원본 데이터셋의 핵심 정보를 포착하는 대표적인 부분집합을 합성하면서 민감한 세부 사항을 익명화하는 과정을 거친다. 제안된 접근 방식은 두 가지 보완적인 방법을 통합한다: 매개변수 매칭은 실제 데이터로 학습된 교사 네트워크와 합성 데이터로 학습된 학생 네트워크의 학습 궤적을 정렬하는 기술이고, 특징 분포 매칭은 합성 데이터셋의 특징 분포가 원본 데이터의 특징 분포에 근사하도록 하는 기술이다. 이러한 기술을 융합함으로써, FMD는 증류된 데이터셋 내 각 픽셀의 정보 밀도를 극대화하며 압축과 성능 사이의 균형을 시도한다. COVID 흉부 X-선과 췌장암 CT를 포함한 의료 데이터셋에서의 실험 평가를 통해 FMD는 기존 방법들에 비해 우수한 정확도와 개인 정보 보호 성능을 달성했다는 것을 확인할 수 있다. 또한, 모델 성능과 익명성을 모두 평가하는 지표를 사용하여 제안된 방법을 평가한 결과, FMD는 높은 진단 정확성을 유지하면서도 데이터를 효과적으로 익명화하는 것으로 나타났다. 이로써 본 연구에서는 FMD가 보안성과 효율성을 갖춘 의료 데이터 공유를 위한 유망한 도구임을 입증하였다. 이 연구는 “FMD: Comprehensive Data Compression in Medical Domain via Fused Matching Distillation” 라는 제목의 논문으로 2025년 IEEE/CVF Winter Conference on Applications of Computer Vision (WACV)에 게재되었다.;Medical datasets are often large and contain sensitive information, presenting significant challenges for data sharing and storage. To address these issues, this paper introduces a novel method called Fused Matching Distillation (FMD), which combines multiple dataset distillation techniques to achieve both data compression and enhanced privacy. FMD synthesizes representative subsets that capture the essential information from the original dataset while anonymizing sensitive details during the distillation process. The proposed approach integrates two complementary methods: parameter matching,a technique that aligns the training trajectories of a teacher network trained on real data with those of a student network trained on synthetic data, and feature distribution matching, which ensures that the synthetic dataset closely approximates the feature distribution of the original data. By fusing these techniques, FMD maximizes the information density within each pixel of the distilled dataset, achieving a balance between compression and performance. Experimental evaluations on medical datasets, including COVID chest X-ray and Pancreas cancer CT, demonstrate that FMD achieves superior accuracy and privacy compared to existing methods. Furthermore, the proposed method is evaluated using metrics for both model performance and anonymity, showing that FMD not only maintains high diagnostic accuracy but also effectively anonymizes the data. This makes FMD a promising tool for secure and efficient medical data sharing.