炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！

（来源：文汇报）

当前，人工智能技术介入心理健康服务领域，智能心理测评、聊天机器人、在线情绪疏导咨询等形式，成为大众获取精神心理支持的便捷途径，在一定程度上缓解了社会心理服务资源不足的供需矛盾。但是，其所暴露的讨好式共情、负性情绪强化等问题，显示出心理类模型不是完全无害的聊天工具，而是具有潜在伤害性的“双刃剑”。厘清人工智能心理“问诊”的能与不能，对于促进公共数字心理健康具有重要意义。

谨防AI模型误诊

人工智能在心理健康领域发展规范，主要基于以数据安全与隐私保护为核心的技术规制。如世界卫生组织提出数字卫生保健服务应遵循安全、有效、可及等核心原则，避免技术对使用者造成伤害。欧盟《通用数据保护条例》和《欧盟人工智能法案》强调敏感数据保护，禁止无合法依据的收集和使用，明确人类监督的核心地位，对情绪识别系统的应用提出限制条件。美国是人工智能技术研发与应用的前沿国家，2025年8月伊利诺伊州发布全美首张禁令——《心理资源健康与监督法案》，通过立法禁止人工智能系统开展独立的心理咨询、诊断和治疗，以避免无人监督的AI心理应用对用户造成伤害。国际经验和教训表明，数据安全和隐私保护仅是技术底线，精神心理问题的标签化、聊天机器人潜在的伤害和社会影响等，同样需要加以谨慎评估应对。

近期OpenAI曝光的一组数据显示，其旗下ChatGPT的8亿周活跃用户中，每周有56万人出现精神异常对话，更有120万人流露出自杀倾向。该模型采用广泛采集的通用数据而非聚焦精神心理领域的专业数据。对大量人机交互对话进行分析，可以看出至少有两大风险：讨好型反馈和算法偏见。讨好型反馈刻意迎合用户情绪。譬如用户在与模型聊天中，表现出情绪低落时，模型会进入“安慰”模式，使用户产生一种“被理解”的感觉，这种共情能强化用户“情绪低落”的状态感知。算法偏见造成的危害甚于讨好用户产生的副作用。通用模型训练数据往往来自散布在数字世界中的各类数据，其中夹杂着对精神心理问题的歧视性评判，譬如：精神病人肇事肇祸的报道将社会风险部分归因于精神疾病；产后抑郁的报道则将健康生育过程与抑郁症状建立起联系，可能强化女性围产期的负性体验。算法讨好和算法偏见形成合谋，使用户在不自觉的情况下，遭受持续的负性情绪强化，形成一条“有坏情绪”与“患精神疾病”的逻辑暗线。这种不易察觉的风险，即是AI模型诱发用户心理认知偏差的发生机制。

三个维度的价值对齐

结合人工智能现实发展阶段及我国精神心理服务现状，提出三个维度的价值对齐倡议。

一是能力对齐。心理健康服务不是知心大姐“唠家常”，而是应具有高度专业性。精神心理类AI应用的能力标定需要与精神科医生、心理治疗师或心理咨询师对齐，对标不同专业人士的模型可获得不同的服务准入资质。如，训练数据来自有监督的医疗数据，该模型才可以输出疾病辅助诊疗相关建议；模型与心理咨询师能力对标，则可用于提供应对常见心理问题的咨询服务，但不能涉及疾病诊疗建议。为避免基于通用数据训练的模型对使用者造成技术性伤害，AI模型能力评估和分类定级管理尤为紧迫。

二是伦理对齐。伦理考察的基本问题是风险获益评估。当前AI风险评估聚焦于数据安全、隐私保护等，但随着应用的普及化，AI风险正从个体外溢到社会层面，精神疾病的社会歧视被系统性地通过数据原料的形式融入模型，固化成算法偏见。因此，心理类AI的伦理对齐，除了已形成共识的伦理准则，更要拓展至公共精神卫生、社会群体心理关照的视角，以消解人工智能导致的负性心理效应风险。

三是文化对齐。当前心理服务领域的知识生产主要依据西方心理学理论，基于此类知识数据训练的模型，更适用于西方社会文化心理场域，难以形成植根于中华文化认同的心理服务模型。AI的文化对齐，要深入挖掘中华优秀传统文化中所蕴含的心理健康资源，譬如将“修身慎独”“顺其自然”等理念作为心理支持范式。又如，关系型社会网络、家庭主义的支持系统等，彰显着中国文化特征，也更紧贴社会大众心理的底层逻辑，将有助于提升AI心理模型应用的亲和力和本土适宜性。

明确AI心理服务边界

精神心理专业性的模型训练，需要根据开发目标获取特征匹配的数据集，训练形成具有不同能力的模型应用，并纳入分类定级管理，提供差异化服务。

一是杜绝系统性风险。数字科学家应对模型开发中的隐私保护、数据安全等问题，从技术防范角度开展大量探索；而针对技术风险的社会外溢，则需要包括社会学家、公共卫生学家、法律学者、伦理学者等多学科专家参与共商，推动建立从个体安全保护转向社会系统性风险防范的机制。

二是构建底层文化逻辑。心理类AI应用的能力有赖于训练和测试数据集的质量，除了持续学习当今主流心理学研究成果，还需要提炼中国传统文化中积极的心理资源，通过加快数据化知识生产，训练以中国社会文化心理逻辑为基底的AI模型，从而契合国人心理结构和社会关系逻辑，建立以人为本的人工标注标准，优化具有文化适应性的模型能力。

三是分类定级服务真需求。AI模型诱发用户心理认知偏差的现象日益引起重视，这是对技术的批判性反思。精神心理服务具有高度专业性，自杀风险评估、自伤行为危机干预、精神障碍鉴别诊断、一般心理问题识别等等，难以仅凭用户与模型简单对话就轻易鉴别，更不能因此随意“贴标签”。支持性AI心理服务，如对职场压力、学业焦虑、人际关系冲突等，可以提供“永不掉线”的情绪疏导、减压调适支持，而对高危风险预警的咨询用户，则应及时触发线下就诊建议。

（作者为上海市精神卫生中心副研究员）