Validation of Difficulty Classification Concordance using GPT-4o for Physical Therapy Exam Questions

본 논문에서는 물리치료 시험 문제 난이도 분류에서 GPT-4o의 타당성을 인간 전문가 평가와 비교 검증하였다. 한국 3개 대학의 180명 물리치료 전문가(교수 11명, 학생 169명)가 GPT-4o가 5 단계로 분류한 525개 문항을 5점 리커트 척도로 평가했다. GPT-4o 분류는 인간 평가와 매우 높은 상관관계를 보였으며(r = 0.988, p < 0.001), 인간 평가 변동의 97.6%를 설명했다. Bland-Altman 분석에서 체계적 편향은 최소였고(평균 차이 = -0.233), 평가자 간 신뢰도는 교수(ICC = 0.912)와 학생(ICC = 0.908) 모두 우수했으며, 기관 간 유의한 차이는 없었다(p = 0.794). 이는 GPT-4o가 물리치료 교육에서 신뢰할 수 있는 평가 도구로 활용될 수 있음을 시사한다.

Authors

Publication Details

Journal
Journal of the Korea Society of Computer and Information
Published
2025-08-31
DOI
https://doi.org/10.9708/jksci.2025.30.08.233
Primary Topic
Artificial Intelligence in Healthcare
Type
article
Field-Weighted Citation Impact
0.00
Controls
|||
ALL TIME
JAN
FEB
MAR
APR
MAY
JUN
JUL
AUG
SEP
OCT
article

Validation of Difficulty Classification Concordance using GPT-4o for Physical Therapy Exam Questions

Hoen‐oh Shin, Seoyoon Heo, Xu Ma, M. Park et al.
Journal of the Korea Society of Computer and Information
Artificial Intelligence in Healthcare
article

Validation of Difficulty Classification Concordance using GPT-4o for Physical Therapy Exam Questions

Hoen‐oh Shin, Seoyoon Heo, Xu Ma, M. Park, Tae-Seok Choi, Yuemei Jin, Hongrae Kim, D. Kwon, Wansuk Choi
article en

Abstract

본 논문에서는 물리치료 시험 문제 난이도 분류에서 GPT-4o의 타당성을 인간 전문가 평가와 비교 검증하였다. 한국 3개 대학의 180명 물리치료 전문가(교수 11명, 학생 169명)가 GPT-4o가 5 단계로 분류한 525개 문항을 5점 리커트 척도로 평가했다. GPT-4o 분류는 인간 평가와 매우 높은 상관관계를 보였으며(r = 0.988, p < 0.001), 인간 평가 변동의 97.6%를 설명했다. Bland-Altman 분석에서 체계적 편향은 최소였고(평균 차이 = -0.233), 평가자 간 신뢰도는 교수(ICC = 0.912)와 학생(ICC = 0.908) 모두 우수했으며, 기관 간 유의한 차이는 없었다(p = 0.794). 이는 GPT-4o가 물리치료 교육에서 신뢰할 수 있는 평가 도구로 활용될 수 있음을 시사한다.

Journal of the Korea Society of Computer and InformationVol. 30(8)
Openalex Percentile: Top 73%
Artificial Intelligence in Healthcare
AI Navigator

Ask Laika to Summarize, Analyze, and Connect papers live on the map.

Summarize Papers & Methodologies

Extract key findings, datasets, and comparative methods across publications.

Benchmark Rankings & Visual Analytics

Rank top research institutions, authors, funders, topics, and journals by Field-Weighted Citation Impact (FWCI) and paper volume with instant charts.

Connect Distant Disciplines

Bridge topological clusters on the map to find hidden collaborative intersections.