Efficient Structure-Adapted Pre-trained Language Models for Code Summarization

코드 요약은 복잡한 소스 코드를 이해하고 이를 사람이 읽을 수 있는 자연어로 요약하는 소프트웨어 개발의 중요한 작업이다. 최근, 대규모 코드 데이터셋을 활용한 사전학습 언어 모델이 등장하면서, 코드 요약과 같은 작업에서 큰 성과를 이루었다. 그러나 대부분의 사전학습 언어 모델은 소스 코드를 단순한 시퀀스 데이터로 처리하기 때문에, 코드의 복잡한 구조적 정보를 효과적으로 학습하는 데 한계가 있다. 따라서, 본 논문에서는 코드 요약을 위하여 사전학습 언어 모델에 코드의 구조적 정보를 효율적으로 통합할 수 있는 새로운 방법을 제안한다. 우리의 제안된 방법의 효과를 검증하기 위해 실제로 사용되는 두 개의 벤치마크 데이터셋인 Java와 Python을 활용하여 검증한다. 우리의 방법인 코드의 구조적 정보를 사전학습 언어 모델에 통합하는 것이 단순히 코드 시퀀스만을 사용하는 것보다 더 효과적임을 보인다.