A Survey on LLM Edge-Intelligence: Recent Researches and Future Direction

대형 언어 모델(LLM)은 빠르게 지능형 서비스의 근간이 되고 있지만, 자원이 제한된 엣지장치에 배포하는 것은 여전히 도전 과제로 남아 있다. 본 논문은 새롭게 떠오르는 대형 언어모델 기반 엣지 인텔리전스 분야의 포괄적이고 최신의 종합적인 조사를 제시한다. 먼저 지연시간, 대역폭 및 프라이버시 측면에서 이들의 절충관계를 강조하는 엣지-LLM 배포 아키텍처의 통합 분류를 제시하고, 엣지 하드웨어에서 LLM을 실행할 수 있도록 하는 최적화 기술들을 검토한다. 또한 분산 추론에 내재된 보안 및 프라이버시 위험을 검토하고 현재 방어 방식을 요약한다. 마지막으로, 향후 연구 방향을 개략적으로 설명한다. 본 논문은 엣지 컴퓨팅의 제약과 강력한 언어 모델 사이의 간극을 메우려는 연구자들을 위한 로드맵을 제공한다.