A Comparative Study on Prompt Strategies for LLM-based Software Defect Prediction

소프트웨어 복잡성이 급증함에 따라, 소프트웨어 결함 예측(SDP)은 한정된 테스트 자원을 오류 가능성이 높은 모듈에 집중시키는 핵심 품질 보증 활동으로 자리 잡았다. CodeBERT 등 코드 특화 언어모델이 SDP에서 성과를 보였으나, 토큰 길이 제한으로 인해 파일 단위의 긴 코드 문맥을 반영하기 어려우며, 이로 인해 대규모 코드베이스에서는 예측 성능이 제한된다는 한계가 있다. 반면, 수십만 토큰을 처리 가능한 거대 언어 모델(LLM)의 등장은 코드의 구조적·의미적 관계를 종합적으로 분석할 수 있는 새로운 가능성을 제시한다. 본 연구는 이러한 잠재력에 주목하여, 데이터 표현 방식(정형 메트릭·비정형 코드)과 프롬프트 전략을 조합한 9가지 실험을 수행하였다. 그 결과, 데이터 형태와 프롬프트 전략이 각각 독립적으로 예측 정확도에 영향을 미쳤으며, 두 요인의 복합적 상호작용이 성능 변동의 주요 요인임을 확인하였다. 이는 LLM 기반 결함 예측의 실용화를 위해 정교한 프롬프트 설계가 필수적임을 시사한다.

Authors

Publication Details

Journal
Journal of KIISE
Published
2026-10-27
DOI
https://doi.org/10.5626/jok.2026.53.10.977
Primary Topic
Software Engineering Research
Type
article
Field-Weighted Citation Impact
0.00
Controls
|||
ALL TIME
JAN
FEB
MAR
APR
MAY
JUN
JUL
AUG
SEP
OCT
article

A Comparative Study on Prompt Strategies for LLM-based Software Defect Prediction

Jongmoon Baik, Duksan Ryu, Jonggu Kang, Hyunsun Hong
Journal of KIISE
Software Engineering Research
article

A Comparative Study on Prompt Strategies for LLM-based Software Defect Prediction

Jongmoon Baik, Duksan Ryu, Jonggu Kang, Hyunsun Hong
article en

Abstract

소프트웨어 복잡성이 급증함에 따라, 소프트웨어 결함 예측(SDP)은 한정된 테스트 자원을 오류 가능성이 높은 모듈에 집중시키는 핵심 품질 보증 활동으로 자리 잡았다. CodeBERT 등 코드 특화 언어모델이 SDP에서 성과를 보였으나, 토큰 길이 제한으로 인해 파일 단위의 긴 코드 문맥을 반영하기 어려우며, 이로 인해 대규모 코드베이스에서는 예측 성능이 제한된다는 한계가 있다. 반면, 수십만 토큰을 처리 가능한 거대 언어 모델(LLM)의 등장은 코드의 구조적·의미적 관계를 종합적으로 분석할 수 있는 새로운 가능성을 제시한다. 본 연구는 이러한 잠재력에 주목하여, 데이터 표현 방식(정형 메트릭·비정형 코드)과 프롬프트 전략을 조합한 9가지 실험을 수행하였다. 그 결과, 데이터 형태와 프롬프트 전략이 각각 독립적으로 예측 정확도에 영향을 미쳤으며, 두 요인의 복합적 상호작용이 성능 변동의 주요 요인임을 확인하였다. 이는 LLM 기반 결함 예측의 실용화를 위해 정교한 프롬프트 설계가 필수적임을 시사한다.

Journal of KIISEVol. 53(10)
Openalex Percentile: Top 7%
Software Engineering Research
AI Navigator

Ask Laika to Summarize, Analyze, and Connect papers live on the map.

Summarize Papers & Methodologies

Extract key findings, datasets, and comparative methods across publications.

Benchmark Rankings & Visual Analytics

Rank top research institutions, authors, funders, topics, and journals by Field-Weighted Citation Impact (FWCI) and paper volume with instant charts.

Connect Distant Disciplines

Bridge topological clusters on the map to find hidden collaborative intersections.

Laika access coming soon