Development of TOTP-Based SSH Mutli-Factor Authentication System

본 연구는 SSH 환경에서 단일 요소 인증의 보안 취약점을 해결하기 위해 TOTP 기반 다요소 인증 시스템을 설계하고 구현하였다. 전 세계 SSH 서버의 65% 이상이 패스워드 인증만을 허용하고 있어 무차별 대입 공격과 중간자 공격에 취약한 상황이다. OpenSSH 기반의 SSH 다요소 인증 방식은 패스워드와 TOTP를 하나의 문자열로 처리하여 인증 실패의 원인을 파악하기 어렵고 다양한 인증 요소를 조합하는 데 한계가 있다. 제안한 시스템은 OpenLDAP 확장 연산과 SSH 서버의 PAM 모듈을 활용하여 1차 인증과 2차 인증을 분리하는 모듈식 구조로 개발되었다. 이를 통해 각 인증 요소의 독립적 검증이 가능하며, 인증 오류의 원인을 명확히 구분할 수 있고, 다양한 인증 요소의 조합이 가능하다. 또한 TOTP 공유키를 OpenLDAP 서버에서 중앙 집중 관리하여 클라이언트 측 보안 위험을 최소화할 수 있다. 기능 및 성능 평가 결과, OATH 표준을 준수하여 범용 SSH 클라이언트와 TOTP 인증 앱과 호환되며, 동시 사용자 20명 환경에서 100% 응답률과 초당 12.6건의 처리 성능을 확인하였다.