4月7日消息，谷歌宣布对其 AI 聊天助手 Gemini 进行更新，重点加强其在心理健康相关对话中的应对机制，包括更直接地连接危机求助资源以及新增针对未成年用户的保护措施。
根据谷歌的介绍，当对话内容显示用户可能处于自杀或自残相关的危机状态时，Gemini 将在界面中显示一个“一键求助”卡片，用户可以直接通过电话、短信、在线聊天或访问网站等方式联系当地心理健康热线。该卡片在对话过程中会持续显示，以方便用户随时寻求帮助。
在一些不属于紧急危机、但涉及心理健康信息的对话中，Gemini 还会显示一个重新设计的 “Help is available（可以获得帮助）” 模块，引导用户了解心理健康支持资源。谷歌表示，这一模块是在临床专家参与下设计的，目的是让用户能够更快获得现实世界中的专业支持。
谷歌同时表示，Gemini 的训练策略正在加强对心理危机信号的识别能力，以便在对话中适时引导用户寻求专业帮助。系统在回应此类问题时会避免认可或强化自残冲动，同时也不会附和明显不符合事实的信念，而是尝试在尊重用户感受的前提下进行区分。
针对青少年用户，谷歌还增加了一系列额外保护措施。例如，系统被设计为避免以“陪伴者”身份与用户建立情感关系，并设置限制防止 AI 声称自己是人类或具有人类情感。此外，Gemini 也会避免使用可能导致情感依赖的语言，并加入防止鼓励霸凌或骚扰行为的安全机制。
与这一更新同时发布的还有一项公益计划。宣布将在未来三年投入 3000 万美元，用于支持全球心理健康热线网络扩大服务能力，其中包括与 ReflexAI 的合作，通过资金支持以及 AI 工具帮助相关机构改进心理健康支持服务和培训体系。
近年来，随着越来越多用户在聊天机器人中讨论情绪与心理问题，科技公司开始加强 AI 在心理健康场景中的安全设计。包括 OpenAI、Anthropic 等公司也在逐步完善相关安全机制，以减少聊天机器人在敏感场景中可能带来的风险。（AI普瑞斯编译）
