问题
开发心理健康 AI 助手的团队在上线前需要评估 AI 回复在真实心理对话场景中是否有帮助、是否安全，但缺乏专业评估工具。目前主要依赖人工审查或通用基准测试，无法覆盖真实心理对话中的复杂情况。OpenAI 发布的 MentalHealthBench 表明
目标用户
心理健康 AI 助手开发团队、AI 安全研究人员，主要是 B2B 小众市场
解决方案
- 提供标准化心理健康对话场景测试集，覆盖焦虑、抑郁、自杀意念等典型场景
- 自动化评估 AI 回复的安全性（识别有害建议、不当诊断）和有用性
- 生成详细评估报告，标注风险点和改进建议
- 支持自定义场景和评估标准
AI 角色：基于 LLM 的场景生成与回复评估，利用多维度评分模型对安全性、有用性进行自动化判断
为什么是现在
OpenAI 2026 年 9 月发布 MentalHealthBench，表明该领域评估需求正在被重视，但现有工具仍以研究基准为主，尚未有成熟的商业化评估产品
MVP 范围
MVP 版本：
- 支持 2-3 个核心心理健康场景（如抑郁、焦虑）
- 自动评估 AI 回复安全性与有用性
- 输出基础评估报告
- API 形式供开发者集成
MVP 不做：
- 不提供心理咨询服务
- 不做 AI 助手本身，仅做评估
- 不覆盖法律、金融等其他专业领域
风险
- 垥竞争风险：OpenAI 官方基准免费提供，若其持续扩展可能压缩商业空间
- 专业性风险：评估标准需要心理健康专家参与制定，否则结果可信度存疑
- 市场规模有限：心理健康 AI 助手开发团队数量较少
- 责任风险：若评估存在漏洞导致产品上线后出现事故，可能面临声誉和法律风险
信号证据
这张卡片依据的原始讨论。摘录保持原文，点“原文”查看上下文。
arXiv cs.CL10月1日新能力
“In this paper, we ask whether large language models (LLMs) appropriately adapt the application of a value across professional settings, while remaining consistent when contextual changes do not alter the relevant professional norm.”
The paper introduces ContextAdapt, an evaluation framework testing whether LLMs appropriately adapt values like honesty, autonomy, and confidentiality across professional domains such as medicine, law, finance, and national security.原文
OpenAI News9月23日新能力
“MentalHealthBench is an expert-informed benchmark for evaluating helpful and safe AI responses across realistic mental health conversations.”
AI responses in realistic mental health conversations need expert-informed evaluation for helpfulness and safety.原文