header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
扫码下载APP
Partnered With:

OpenAI新方法或提升AI心理健康建议质量,发布前模拟测试成关键

BlockBeats 消息,7 月 2 日,OpenAI 提出的「发布前模拟(Pre-Deployment Simulation)」方法有望提升生成式 AI 在心理健康建议方面的表现。该方法通过选取已上线模型的真实用户对话样本,对尚未发布的新模型进行测试,并对其回复进行审核和优化,以便在正式发布前发现并修正潜在问题。


报道称,随着越来越多用户使用 ChatGPT、Claude、Gemini、Grok 等大语言模型寻求心理健康建议,而这些模型本身并非专为心理健康场景设计,因此存在一定风险。文章认为,针对心理健康场景开展发布前模拟训练,有助于提高模型建议的安全性和有效性,降低潜在误导风险。


---------------------------------
点击下方原文链接,加入动察 Beating · 飞书 AI 新闻渠道,7×24 小时不间断监测全球 AI 热点与新闻。

AI 解读
OpenAI 提出「发布前模拟」方法,旨在应对通用大模型被非预期地广泛用于心理健康咨询的现实风险。这并非孤立的技术优化,而是模型层巨头在用户增长压力下(ChatGPT周活停滞在9.2亿),向垂直、高敏场景进行能力与责任下沉的关键动作。Sam Altman近期专访中关于“不太懂AI内部发生什么”的自白,已透露出对模型黑箱及其社会影响的审慎。

最值得关注的细节是,该方法使用“已上线模型的真实用户对话样本”进行测试。这实质上是将海量用户未经引导的、真实的心理健康求助数据,反向用于模型迭代与风险控制。在数据日益成为核心壁垒的当下,此举不仅关乎安全,更意味着OpenAI正将其最大的优势——庞大的真实交互数据——系统性地转化为在垂直领域构建护城河的工具。
展开

全球市场热点不用到处刷,消息送到你眼前

加入律动飞书频道
相关推荐
微软从「OpenAI的唯一渠道」变成了「OpenAI的大客户之一」
Anthropic更早押注AI编程,OpenAI战略节奏错位
OpenAI与Anthropic,既生瑜何生亮?
纠错/举报
提交
新增文库
仅自己可见
公开
保存
选择文库
新增文库
取消
完成