Divide-and-conquer random sketched kernel ridge regression for large-scale data analysis

초록

커널 능형회귀 (kernel ridge regression; KRR)는 재생성 커널 힐버트 공간에서 비모수적 회귀 함수를 추정하는 대표적인 기법으로 다양한 통계 분석에 활용되고 있다. 크기가 n인 자료에서의 일반적인 KRR의 구현에 필요한 계산 및 저장 비용은 각각 O(n^3), O(n^2)이며, 대용량 자료와 같이 n이 매우 큰 경우 그 활용성이 매우 제한된다. 이러한 문제를 해결하기 위해 분할정복 KRR, 랜덤스케치 KRR과 같은 기법들이 개발되었다. 본 연구에서는 대용량 자료에서의 KRR에 활용된 분할정복 기법과 랜덤스케치 기법을 결합하여 새로운 커널 능형회귀 방법을 제안하였다. 제안된 방법은 기존의 분할정복 KRR이나 랜덤스케치 KRR보다 작은 계산 및 저장 비용을 가진다. 모의실험 및 실제 자료의 분석을 통해 제안 방법의 성능 및 유용성을 확인하였다.

키워드