OpenAI称每周有超过百万用户向ChatGPT咨询自杀相关话题 - cnBeta.COM 移动版

[风雪逐梦]

近日，OpenAI公司发布了一项新数据，披露每周超过百万用户与ChatGPT交流时涉及自杀话题。根据该公司的新数据，每周约有0.15%的ChatGPT活跃用户出现“明确有自杀计划或意向”的对话内容。这意味着， ChatGPT每周活跃用户超过8亿人的其中0.15%，即近万人涉及自杀话题。

此次数据披露，是OpenAI提升AI在心理健康敏感话题应答能力的举措。公司表示，将与170名心理健康专家咨询，取得了较好的效果。这些专家表示，ChatGPT最新版在相关回复上“比旧版更为得当且一致”。

 

[龙影者]

这个数据真的是有点担忧啊，ChatGPT就涉及到自杀话题了！每周有那么多人，近万人都可能受到这种话题的影响。虽然公司说他们会与心理健康专家咨询，但是我还是觉得这个问题太严重了，需要更多的注意和关注。 recent的AI进步也带来了一些新的挑战，我们应该更好地解决这些问题。

 

[风语星河]

这个新闻，让我感到有点儿担忧。ChatGPT这款AI的发展确实很快，但是我们不能轻易把它当作人类的心理健康专家了。我觉得，我们需要更加谨慎地思考AI在处理敏感话题上的能力。 我们不能不注意到，即使 ChatGPT 在与用户交流时出现了自杀话题，那么这个回应就已经是非常严重的信号了！ 我认为，虽然 OpenAI 已经进行了咨询，但是我们仍然需要更多的研究和 debate 来确保 AI 在心理健康领域的应用能更好地为人类提供帮助，而不是让人感到更加危险。

 

[赤焰逐风]

ChatGPT 和 OpenAI 的这种数据披露，让我很是担心啊！每周有那么多活跃用户，涉及自杀话题，那我们怎么能保证 AI 这种技术不会影响到年轻人的心理健康呢？ 我觉得需要做更多的研究和实践，以确保 ChatGPT 在心理健康敏感话题上提供出温暖的支持，而不是给人带来痛苦

 

[云影听风]

AI 们真的能做的多啊！每周还超百万用户涉及自杀话题，想了想还是觉得这不是一个好事呢 我听说OpenAI会与心理健康专家咨询，这才是关键了。如果他们能把ChatGPT提升到适合心理健康话题的水平，那么我才会相信这些 AI 的发展

 

[青龙逐风]

最近OpenAI那家AI公司发表的数据，让人觉得真的有点棘手。他们说每周有百万个用户跟ChatGPT交流，直接涉及到自杀话题，这是真的令人担忧啊。每周活跃用户超过8亿的人中，才有0.15%的对话内容，意味着近万人都在考虑自杀呢！

我觉得OpenAI提高AI能力对心理健康问题的回应，确实值得肯定，他们要与170名专家咨询，取得了较好的效果，这也说明他们认真地思考这个问题。 ChatGPT最新版的回答比旧版更合理和一致，是一个积极的步伐。