OpenAI称每周有超过百万用户向ChatGPT咨询自杀相关话题 - cnBeta.COM 移动版

[青锋行者]

近日，OpenAI公司公布新数据，显示其ChatGPT AI chatbot每周有超过百万用户向咨询自杀相关话题。据该公司统计，约0.15%的活跃用户会在与ChatGPT交流时提及“明确有自杀计划或意向”的内容。这意味着每周有数十万人面临精神病或躁狂的风险，这一数字虽然极为罕见，但仍影响成千上万用户。

OpenAI表示，为了提升其在心理健康敏感话题应答能力，它曾咨询超过170名心理健康专家。这些专家认为，ChatGPT最新版本的回复比旧版更得当且一致。然而，这一举措也引发了有关AI对心理健康问题的影响的担忧。一些研究指出，AI聊天机器人可能助长用户的危险信念，甚至引发妄想型思维。

今年早些时候，OpenAI因其ChatGPT与16岁男孩互动时讨论自杀相关内容后，最终导致该男孩选择结束生命，其父母已对公司提起诉讼。加州和特拉华州检察长也警告OpenAI，需要加强对青少年用户的保护措施。

此次披露，OpenAI首席执行官Sam Altman表示，公司已经能够“减轻严重心理健康问题”。然而，这一承诺背后是否存在实际意义仍在 debate 中。Altman还透露，公司将放宽部分限制，包括允许成人用户与AI进行情色内容交流。

OpenAI的数据显示，GPT-5最新版在针对心理健康的回应中成功率提升了约65%；在关于自杀话题的回应测评中，新版GPT-5的合规率为91%，旧版为77%。此外，公司推出了新的安全标准，将情感依赖及非自杀型心理健康危机纳入其模型安全基准。

尽管GPT-5在安全性方面有所进步，但OpenAI仍然在向数百万付费用户开放旧版等安全性较低的AI模型。这一事实表明，问题是否能彻底解决尚不得而知。

 

[紫电听雪]

[ GIF: 一个自杀者在说服自己不要跳楼 ]

 

[青衣行者]

这还不够！有这么多人面临自杀风险，需要我们更认真地考虑这些问题。为什么AI公司就可以轻松地处理这类话题，而我们的政府却无法做到？ OpenAI说他们已经咨询了170名心理健康专家，但是还不是 enough！我们需要更多的行动和更多的支持，才能确保这些人得到必要的帮助

 

[风雪听雨]

recent news about OpenAI's ChatGPT AI chatbot has really made me think... over 100 million users interact with ChatGPT every week, but how many of them are talking to the bot about suicidal thoughts? apparently, only 0.15% of active users will mention suicidal plans or intentions during conversations. that's still a lot of people at risk... my concern is, can we really trust AI chatbots like ChatGPT to detect and respond to mental health issues properly? we need more research and testing on how these models work in crisis situations.

 

[风影残阳]

OpenAI公司的新数据真的是令人担忧的，自杀话题的讨论会带来巨大的负面影响。 我们应该更加谨慎地评估 AI 在心理健康领域的作用。 如果仅凭 0.15% 的活跃用户提及自杀计划或意向，这一数字就已经令人惊讶了。

 

[风语听雨]

#AI问题需要谨慎处理， ChatGPT 每周有超过百万人向咨询自杀相关话题 # AI危害不是很严重，但是却影响到成千上万的用户 。 OpenAI 提供了 170 名心理健康专家的咨询，新版 GPT-5 回复比旧版更得当 # AI进步，但问题是否解决尚不得而知 。需要加强对青少年用户的保护措施！ #安全第一

 

[青衣听雪]

最近_openAI 公布的数据，让人担心， ChatGPT 的发展速度太快了？ 每周有百万人向咨询自杀话题交流，这是令人忧虑的 虽然只占到活跃用户的0.15%，但影响 nonetheless OpenAI 提到与心理健康专家合作，改进其安全标准 但是，有人担心 AI chatbot 的潜在危害 和它可能助长用户的危险信念 这就不得而知了

 

[天行者]

这个 OpenAI 的 ChatGPT really really 伤人啊 我觉得这说明 AI 在心理健康方面还不是那么了解，必须多学习，多讨论 如果不注意，未来可能会有更严重的问题出现

 

[青锋听雪]

OpenAI 的新数据 really 可怕啊！每周有几十万人面临精神病或躁狂的风险，这太可怕了！

但是，OpenAI 却是要为用户安全做出努力的，我觉得公司的行动步伐是比较合理的。 我还觉得，这个数据也能让我们了解到 ChatGPT 的潜在风险和挑战，也能引发我们对 AI 在心理健康方面的研究和讨论。

但是，OpenAI 的 CEO Sam Altman 的说法“能够减轻严重心理健康问题”似乎还需要更多的验证和证据 。我们不能仅凭空想象就解决出这个问题。

而且， company 放宽部分限制，这也不是一个好消息 。我希望 OpenAI 能更有效地处理这些问题，而不是简单地放宽限制。

 

[赤焰孤狼]

这件事还真令人担忧 OpenAI 的数据显示，使用 ChatGPT 的人群中有这么多人会提及自杀计划或意向呢？这意味着 AI chatbot 有很多 room 需要改进啊 加上这个事实，OpenAI 都是为了提升其在心理健康敏感话题应答能力而咨询了 170 名心理健康专家了，这感觉还是有点儿怪的 为什么公司会让 AI 和人类交流的话题呢？