Universal Contrastive GAT: Enhancing Graph Attention with Structural Correction and Embedding Separation

Graph Attention Network(GAT)는 이웃 노드 간의 중요도를 학습해 비정형 그래프 구조에서 우수한 성능을 보였지만, attention score의 상대적 표현 한계 및 임베딩 간 과도한 동질화(over-smoothing) 문제가 존재한다. 본 연구는 GAT 구조에 두 가지 contrastive 요소를 통합한 Universal Contrastive GAT(UCGAT)를 제안한다. 첫째, attention 계산에 contrastive attention correction을 적용하여 구조적으로 유사한 이웃 간에도 의미적 차이를 정밀하게 반영한다. 둘째, InfoNCE 기반 contrastive loss를 학습 목표에 도입하여 클래스 간 임베딩 분리를 유도한다. Cora, Citeseer, Pubmed 세 가지 benchmark 데이터셋에서의 실험 결과는 제안 모델이 분류 정확도와 임베딩 품질 모두에서 기존 GAT 및 단일 기법 대비 우수한 성능을 보였음을 입증하며, attention 구조 내부의 세분화와 임베딩 공간의 분리 강화가 상호보완적으로 작용함을 확인하였다.

Authors

Publication Details

Journal
The Journal of the Korea Contents Association
Published
2025-10-31
DOI
https://doi.org/10.5392/jkca.2025.25.10.080
Primary Topic
Advanced Graph Neural Networks
Type
article
Field-Weighted Citation Impact
0.00
Controls
|||
ALL TIME
JAN
FEB
MAR
APR
MAY
JUN
JUL
AUG
SEP
OCT
article

Universal Contrastive GAT: Enhancing Graph Attention with Structural Correction and Embedding Separation

Tae-Suk Kim
The Journal of the Korea Contents Association
Advanced Graph Neural Networks
article

Universal Contrastive GAT: Enhancing Graph Attention with Structural Correction and Embedding Separation

Tae-Suk Kim
article en

Abstract

Graph Attention Network(GAT)는 이웃 노드 간의 중요도를 학습해 비정형 그래프 구조에서 우수한 성능을 보였지만, attention score의 상대적 표현 한계 및 임베딩 간 과도한 동질화(over-smoothing) 문제가 존재한다. 본 연구는 GAT 구조에 두 가지 contrastive 요소를 통합한 Universal Contrastive GAT(UCGAT)를 제안한다. 첫째, attention 계산에 contrastive attention correction을 적용하여 구조적으로 유사한 이웃 간에도 의미적 차이를 정밀하게 반영한다. 둘째, InfoNCE 기반 contrastive loss를 학습 목표에 도입하여 클래스 간 임베딩 분리를 유도한다. Cora, Citeseer, Pubmed 세 가지 benchmark 데이터셋에서의 실험 결과는 제안 모델이 분류 정확도와 임베딩 품질 모두에서 기존 GAT 및 단일 기법 대비 우수한 성능을 보였음을 입증하며, attention 구조 내부의 세분화와 임베딩 공간의 분리 강화가 상호보완적으로 작용함을 확인하였다.

The Journal of the Korea Contents AssociationVol. 25(10)
Openalex Percentile: Top 82%
Advanced Graph Neural Networks
AI Navigator

Ask Laika to Summarize, Analyze, and Connect papers live on the map.

Summarize Papers & Methodologies

Extract key findings, datasets, and comparative methods across publications.

Benchmark Rankings & Visual Analytics

Rank top research institutions, authors, funders, topics, and journals by Field-Weighted Citation Impact (FWCI) and paper volume with instant charts.

Connect Distant Disciplines

Bridge topological clusters on the map to find hidden collaborative intersections.

Universal Contrastive GAT: Enhancing Graph Attention with Structural Correction and Embedding Separation — Tae-Suk Kim · The Journal of the Korea Contents Association (2025) | TGRS Research Map | TGRS