Performance Enhancement of L-BFGS-B Algorithm for Optimization of Large-scale Multivariate Functions

L-BFGS-B 알고리즘은 제약조건이 존재하는 비선형 다변수 함수의 최적화 문제를 푸는 데 효과적인 방법 중 하나로 알려져 있으며 다양한 계산과학 분야 및 인공지능 분야에서 활발히 사용되고 있다. 하지만 최적화 문제의 차원이 증가하고 변수의 개수가 늘어나게 되면 필연적으로 계산량이 커질 수 밖에 없는 문제에 봉착하게 된다. 본 논문에서 우리는 GPU 장치 및 멀티코어 CPU를 대상으로 한 스레드 병렬처리를 통해 L-BFGS-B 알고리즘의 고차원-다변수 문제 해결을 가속화하는 방법에 대해 소개하고, 다양한 실험을 통해 CPU 순차 실행 성능 대비 최대 18,000배까지의 계산 속도가 향상될 수 있음을 확인하였다. 본 연구 결과는 L-BFGS-B 알고리즘이 고성능 컴퓨팅 자원과 연동해 다양한 분야에서 요구되는 보다 복잡하고 고차원의 최적화 문제를 해결하는 데 사용될 수 있음을 잘 보여준다.