When AI “possesses” personality: Roles of good and evil personalities influence moral judgment in large language models

摘要： 在科技与道德的交汇点, 大语言模型是否具有扮演善恶人格的能力, 以及这一能力是否会影响其在道德判断任务中的表现至关重要。研究聚焦大语言模型在模拟不同善恶人格时的道德判断特征及其与人类模式的异同。通过2个研究, 对ERNIE 4.0和GPT-4大语言模型观测值(N = 4832)及人类被试数据(N = 370)分析发现：(1)大语言模型能成功模拟不同水平的善恶人格; (2)善恶人格设定显著影响大语言模型的道德判断结果; (3)善恶人格在人机一致中展现差序性：善人格发挥着更重要的作用(善恶人格间差序), 且其中尽责诚信的影响力最大(善恶人格内差序)。研究建构了道德判断下大语言模型善恶人格的理论模型, 有助于理解大语言模型人格如何在道德判断中发挥作用, 为推动人工智能系统的道德对齐提供了理论基础和支持。