Direct Speech-Based Generation of Articulatory Organ MRI Data and 3D Visualization for Dysarthric Patients

본 연구에서는 기존 연구들과 달리 마비말장애(dysarthria) 환자의 음성을 텍스트 또는 음성기호로 변환하지 않고, Wav2Vec 기반 인코더로 음향 특성을 직접 추출하여 Latent Diffusion Model(LDM)에 조건으로 적용함으로써 조음기관(articulatory organ) MRI 영상을 생성하고, 이를 토대로 3D 구강 모델을 구축하는 과정을 제안한다. 이 방법은 텍스트 기반 대비 FID(Frechet Inception Distance)가 184.42에서 72.21로 약 2.5배 개선되었으며, 환자의 고유 음성 특성이 유지된다. 생성된 2D MRI 영상에서 혀(tongue)·입술(lips) 등 주요 조음기관의 랜드마크를 추출하여 Morphing 기법을 적용, 연속적인 고정밀 3D 표면 모델을 구현하였다. 정성적·정량적 실험을 통해 우수성을 입증하였으며, 본 3D 모델은 재활 치료 보조 및 중증도 예측 모델 학습용 데이터로 활용할 수 있음을 확인하였다.

Authors

Publication Details

Journal
KIISE Transactions on Computing Practices
Published
2025-08-22
DOI
https://doi.org/10.5626/ktcp.2025.31.8.359
Primary Topic
Voice and Speech Disorders
Type
article
Field-Weighted Citation Impact
0.00
Controls
|||
ALL TIME
JAN
FEB
MAR
APR
MAY
JUN
JUL
AUG
SEP
OCT
article

Direct Speech-Based Generation of Articulatory Organ MRI Data and 3D Visualization for Dysarthric Patients

Unsang Park, Yoo Jin Shim, Seungho Eum
KIISE Transactions on Computing Practices
Voice and Speech Disorders
article

Direct Speech-Based Generation of Articulatory Organ MRI Data and 3D Visualization for Dysarthric Patients

Unsang Park, Yoo Jin Shim, Seungho Eum
article en

Abstract

본 연구에서는 기존 연구들과 달리 마비말장애(dysarthria) 환자의 음성을 텍스트 또는 음성기호로 변환하지 않고, Wav2Vec 기반 인코더로 음향 특성을 직접 추출하여 Latent Diffusion Model(LDM)에 조건으로 적용함으로써 조음기관(articulatory organ) MRI 영상을 생성하고, 이를 토대로 3D 구강 모델을 구축하는 과정을 제안한다. 이 방법은 텍스트 기반 대비 FID(Frechet Inception Distance)가 184.42에서 72.21로 약 2.5배 개선되었으며, 환자의 고유 음성 특성이 유지된다. 생성된 2D MRI 영상에서 혀(tongue)·입술(lips) 등 주요 조음기관의 랜드마크를 추출하여 Morphing 기법을 적용, 연속적인 고정밀 3D 표면 모델을 구현하였다. 정성적·정량적 실험을 통해 우수성을 입증하였으며, 본 3D 모델은 재활 치료 보조 및 중증도 예측 모델 학습용 데이터로 활용할 수 있음을 확인하였다.

KIISE Transactions on Computing PracticesVol. 31(8)
Openalex Percentile: Top 72%
Voice and Speech Disorders
AI Navigator

Ask Laika to Summarize, Analyze, and Connect papers live on the map.

Summarize Papers & Methodologies

Extract key findings, datasets, and comparative methods across publications.

Benchmark Rankings & Visual Analytics

Rank top research institutions, authors, funders, topics, and journals by Field-Weighted Citation Impact (FWCI) and paper volume with instant charts.

Connect Distant Disciplines

Bridge topological clusters on the map to find hidden collaborative intersections.