Three trustworthiness challenges in large language model-based financial systems: real-world examples and mitigation strategies
大语言模型 (LLM) 在金融应用中的集成展现出显著潜力, 可提升决策流程、实现操作自动化并提供个性化服务。 然而, 金融系统的高风险特性要求极高的可信度, 而当前LLM往往难以满足这一要求。 本研究识别并探讨了基于LLM的金融系统中的3大可信度挑战: (1) 逃逸式提示——利用模型对齐漏洞生成有害或违规响应; (2) 幻觉现象——模型产出事实错误的输出误导金融决策; (3) 偏见与公平性问题——LLM内嵌的人口统计或制度偏见可能导致个体或区域遭受不公平对待。 为具体呈现这些风险, 我们设计了3项金融相关测试, 并对涵盖专有与开源家族的主流LLM进行评估。 在所有模型中, 每项测试至少出现一次风险行为。 基于这些发现, 系统性地总结了现有风险缓解策略。 我们认为, 解决这些问题不仅对确保金融领域人工智能的负责任使用至关重要, 更是实现其安全可扩展部署的关键所在。
Authors
- Mengzhen Fan (ORCID: https://orcid.org/0009-0006-2391-4659)
- Zhongtian Sun (ORCID: https://orcid.org/0000-0003-0489-5203)
- Shuyan Li (ORCID: https://orcid.org/0000-0002-5107-0338)
- Shurui Xu (ORCID: https://orcid.org/0009-0005-9669-8582)
- Feng Luo (ORCID: https://orcid.org/0009-0006-3851-843X)
Institutions
- Queen's University Belfast (GB)
- University of Kent (GB)
- HSBC Holdings (GB)
- Rice University (US)
Publication Details
- Journal
- Frontiers of Information Technology & Electronic Engineering
- Published
- 2025-10-01
- DOI
- https://doi.org/10.1631/fitee.2500421
- Primary Topic
- Access Control and Trust
- Type
- article
- Field-Weighted Citation Impact
- 0.00