Ensemble-based Uncertainty Quantification with MIMO configuration for Uncertainty-Aware Semi-Supervised learning

Abstract

Pseudo-labeling is an instinctive approach in semi-supervised learning, which propagates the label information from a small amount of labeled data to a large amount of unlabeled data during the training process. In ensemble learning per- spective, Multi-Input Multi-Output (MIMO) models utilize shared module accross the multiple inputs and outputs pairs, and hence, they can achieve better perfor- mance with less inference time. In this work, we propose a novel MIMO-based semi- supervised classification network, namely SEMIMO, where the model is shared ac- cross multiple weakly and strongly augmented samples. Due to the consistency loss in the objective function of SEMIMO, the proposed model injects the pseudo-label information from weakly augmented sample to strongly augmented samples based on the consensus. Moreover, SEMIMO is able to predict the output together with ensemble-based uncertainty in a single forward computation, as the nature of MIMO model structure. It exploits ensemble- based uncertainty in the training procedure for selecting pseudo-labeled subset with low uncertainty. As a result, our experiments show the superiority of SEMIMO in the persepective of classification performance, uncertainty on corrupted dataset and the robustness measeurements in TinyIma- geNet, CIFAR-10, CIFAR-100, and Food101 ;수도 레이블링은 훈련 과정에서 레이블링된 소량의 데이터에서 레이블링되지 않 은 대량의 데이터로 레이블링 정보를 전파하는 준지도 학습 방법론이다. 앙상 블 학습 관점에서 MIMO(Multi-Input Multi-Output) 모델은 복수개의 입력과 출력 쌍에 대해 네트워크 모듈을 공유해서 활용하므로 더 적은 시간으로도, 더 높은 성능을 달성할 수 있다. 본 연구에서는, MIMO 구조를 기반한 새로운 준지도 분 류 네트워크인 SEMIMO 를 제안하는데, 약하게 그리고 강하게 변형된 이미지들 이 네트워크 모듈을 공유해서 학습한다. 일관성을 기반으로 학습하는 SEMIMO의 목적 함수로 인해, 제안한 모델은 약하게 변형된 샘플들로부터 예측한 레이블들 간 합의를 거쳐 수도 레이블을 구하게 되고, 이 정보를 강하게 변형된 샘플의 정 답으로 간주하여 학습을 진행한다. 이에 더 해, SEMIMO는 MIMO 모델 구조의 특성으로 인하여, 단일의 예측만으로도 출력값과 함께 앙상블 기반의 불확실성 예측값을 반환할 수 있다. SEMIMO는 앙상블 기반의 불확실성을 활용해, 훈련 과 정에서 불확실성이 낮은 의사 레이블 하위 집합을 선택해 학습에 활용한다. 결과 적으로, TinyImageNet, CIFAR-10, CIFAR-100 및 Food101 등 준지도 학습에서 널리 활용되는 데이터에서의 실험결과를 바탕으로, 분류 성능뿐만 아 니라, 손상된 데 이터에 대한 불확실성 및 견고성 측정 측면에서 SEMIMO의 우수성을 입증한다.