Design of Ensemble Model based on Radial Basis Function Neural Networks by Using Dropout Technique

앙상블 모델은 여러 기계 학습 모델을 결합해 일반화 성능을 향상시키는 기계 학습 알고리즘이다. 본 논문에서는 앙상블 모델에서 기본 모델의 다양성과 기본 모델들의 상호보완성을 동시에 확보하는 방법을 제안한다. 제안된 설계 방법은 기본 모델들을 독립적으로 학습시켜 상호보완성을 감소시키는 방법을 대신하여 전체 네트워크를 구성하고 기본 모델들의 매개변수를 학습시켜 기본 모델들의 협력을 증대시킨다. 이러한 설계방법의 경우, 학습 가능한 매개변수가 증가하므로 과적합이 발생할 수 있다. 과적합 문제를 해결하기 위하여, 드롭아웃기법을 사용해 학습 가능한 매개변수의 수를 줄여 과적합 문제를 해결한다. 이를 통해 기본 모델들 사이에 상호보완관계를 형성하고 과적합 문제도 줄일 수 있는 새로운 앙상블 모델 설계 방법을 제시한다. 제안된 앙상블 모델의 성능평가를 위해 기계학습 벤치마크 데이터를 이용한다., 기존 모델들과의 성능 비교를 통해 제안된 모델의 우수성을 보인다.