论文精粹|INFORMATION
刘雨微:消除对人工智能体的错误认知
管理员 发布时间:2024-04-12 09:31  点击:846

人工智能的成功与否不仅是一个工程性问题,还牵扯到许多人为因素。人们称呼和描述人工智能的方式深刻影响着人机互动模式和人工智能的有效性。据美国麻省理工学院官方网站近日报道,该校媒体实验室媒体艺术与科学教授帕蒂·梅斯(Pattie Maes)等人表示,主流媒体和主流文化无时无刻不在影响大众的心智模式。心智模式是人类用来描述、解释和预测周围世界的知识结构,由经验、直觉、推理等多种方式形成。人们对聊天机器人等人工智能体(AI Agent)的先前观念影响着人机交互模式,也改变了用户对人工智能的可信度、同理心和有效性等的看法。

人工智能体是一种计算机程序或系统,以类人的方式感知环境、作出决策并采取行动以实现特定目标。随着科技不断发展,人工智能体不再只是“冷冰冰”的机器,而是扮演着个人助理、主播、指导者、心理健康顾问等多种角色。因此,梅斯等人想要厘清用户从人机互动中察觉到的人工智能同理心和有效性,究竟是来自用户的主观感知还是技术本身。他们设计了一项需要真人和对话型人工智能心理健康伙伴交互约30分钟的实验,将310名参与者随机分为三组,每组对应的人工智能体启动陈述各不相同。在这里,“启动”是指设定人工智能模型的初始上下文或提供先前指令,使其能够更好地理解问题,生成更符合用户期望的响应内容。第一组的启动陈述表示人工智能心理健康伙伴持中立立场;第二组的启动陈述显示人工智能充满善意,关心用户的福祉;第三组的启动陈述说明人工智能充满恶意,试图欺骗用户。

梅斯等人发现,简单的启动陈述却足以影响人机交互中用户的心智模式。在启动陈述消极的第三组中,仅有44%的人选择信任人工智能体。相反,在启动陈述积极的第二组和启动陈述中性的第一组中,分别有88%和79%的参与者认为人工智能体具有同理心或态度中立。尽管所有实验组接触到的人工智能体完全相同,但第二组也就是启动陈述比较积极正面的实验组的参与者对人工智能体提供的心理健康咨询服务打分更高。这说明人们可能会像对待人类同胞一样,试图看到人工智能体积极的一面。如果用户认为人工智能体具有同理心,随着时间的推移,该用户与人工智能体的互动将会越来越积极。相反,消极的启动陈述会带给用户各种负面印象,例如人工智能试图操纵人类等,随着人机对话不断进行,用户对人工智能体的负面情绪也会随之放大。

梅斯等人认为,毋庸置疑,社会谈论人工智能的方式正在塑造用户对人工智能体的看法。开发者可以通过设计不同的启动陈述来操控用户对人工智能体的主观感知,让用户过度信任和依赖人工智能体。为此,决策者应当制定相关政策,消除用户对人工智能体的种种幻觉和偏见,并避免公众盲目信任人工智能体给出的虚假信息。

来源:《中国社会科学报》

文献数据中心|DATA CENTER

© 2009-2024 吉林大学理论法学研究中心版权所有 请勿侵权 吉ICP备06002985号-2

地址:中国吉林省长春市前进大街2699号吉林大学理论法学研究中心 邮编:130012 电话:0431-85166329 Power by leeyc