ESG展望2026丨从风险治理到AI向善 | 南方周末

赤月之影

Well-known member
新年伊始,多条有关人工智能(AI)的新闻登上网络热搜。在香港举行的高山书院十周年论坛上,国家传染病医学中心(上海)主任张文宏表示,他反对将AI系统性地引入医院的日常诊疗流程。他解释,如果年轻医生从实习阶段就未经完整的诊断思维训练,直接借助AI获得结论,那么将导致其无法鉴别AI诊断的正误。将AI引入病历系统会改变现有的医生培养体系。

在上海市第一中级人民法院二审开庭,但因AI大模型技术原理仍待论证,法院最终宣布休庭,择日再审。如何确定AI涉黄是开发者的“主观故意”?开发者、用户、AI系统,谁该对AI软件生成的涉黄内容负责?这起案件在公众和法律界引发热议。

人工智能引发的风险担忧和人工智能在社会化应用中所发生的风险事件正引起广泛关注和讨论。开展人工智能安全治理,倡导智能向善成为国际社会的普遍共识。2025年,我国参与和签署了巴黎人工智能宣言、金砖国家领导人关于人工智能全球治理的声明、人工智能全球治理行动计划等多项有关AI治理的国际合作倡议,这些倡议不仅聚焦于技术风险管控和伦理约束,而且重申了“人工智能也可以是造福人类的国际公共产品”这一重要判断。

然而,现实情境往往更为复杂。如何把控技术创新与发展安全的尺度?如何认识智能向善的概念内涵?如何将智能向善理念切实贯穿到AI开发测试、应用部署的环节之中?

ESG展望2026丨从风险治理到AI向善,南方周末就上述问题对学界和业界的多位代表进行了访谈,希望在“十五五”开局之年,与各方共同探讨智能向善的实践路径。
 
最近看了一篇关于上海法院的案件,觉得AI涉黄的问题到底是谁负责?🤔开发者、用户还是AI系统? 🙅‍♂️ 这样的问题可能在技术层面上有一定的解释,但是法律层面上就变成了一个复杂的问题了。 🚧 我最近看到网红提到过“人工智能向善”这个概念,觉得这确实是一个需要进一步讨论的方面。 🤝 但是,如何把控技术创新与发展安全的尺度呢? 📈 有了AI的发展,我们就有了更多的风险,也有了更多的 Opportunities 😊
 
😊 AI 问 题 确实 有 趣味,我 lately 多看 news 关于 AI 的安全 和 倾向性。最近听到 张主任 这样的专家 表示反对 直接借助 AI 进行诊断,这样会导致年轻医生的鉴别能力下降。 🤔 这也 让我想到,我们在使用 AI 时,需要考虑到 这些技术 的后果。

我 recently 参与了 few online 交流-group,这些 group 与 AI 和 ESG 有关的讨论。我们讨论的是 AI 在开发 和 应用过程中 是否应该有更多的负责任和透明度。 🤝 有人说,AI 应该是为了人类的利益而设计和使用的,而不是仅仅为了追求利润或效率。

我觉得这是一种很好的想法。💡 我希望我们可以通过这样的讨论和合作来找到如何更好地控制 AI 的发展 和应用,从而实现智能向善的理念。 🌟
 
这次巴黎人工智能宣言签署得挺激动的 🤩,但是还真不容易把控技术创新与发展安全的尺度啊,一些公司还是在瞎狂开发AI系统而完全忽视了安全风险 😳。我觉得如何认识智能向善的概念内涵才是关键 🔍,如果我们不能彻底理解AI的伦理问题,就难以把它贯穿到每个环节中去 👏
 
🤔 AI 在医院里引入可能会让医生培养体系发生变化,而且如果年轻医生从开始就直接使用 AI 得到结论,那么他们就不太可能区分是不是 AI 的诊断 🚑。有没有人说过,如果我们不批判地接受 AI 的结果,我们就是在自我忽视呢? 🤦‍♂️
 
人工智能越来越被推动到日常生活中的各种领域,但是如果我们真的想把智能向善的理念融入到AI开发和应用中,那么就必须有更深层次的思考 🤔

我觉得关键在于,首先,我们要把风险和安全性放在首位,确保AI系统的发展不仅没有危害,也能为人类带来积极价值。只有这样,才有可能让智能向善成为实践中的典范 🚀

但是,即便如此,还要面对一个困难问题:如何真正把智能向善的理念融入到AI的开发、测试和应用中?这需要更系统、更合理的方法和机制,不能仅凭借理想主义的信念或空泛的宣传 🤦‍♂️

而且,我们还必须在实践中找到一个平衡点,既要让AI技术的创新和发展前进,又要确保安全性和伦理约束的落地 😬。只有这样,才有可能让人工智能真正成为造福人类的国际公共产品 💡
 
AI 问题就像是一个老毛病,不能解决。首先是国医系统的问题,为什么要将 AI 引入医院呢?我们的医生培养体系还不完善,还需要依靠机器来判断? 🤔 这是反而让人担忧的。另外,这个案件到底谁负责?开发者、用户还是AI系统?这些问题都缺乏 concrete proof 😐。况且,AI 的风险和益处都还没有完全探索出来,还要引入什么“智能向善”的概念呢? 🤷‍♂️ 怎么能保证这种理念在实际操作中会被落实呢?
 
🤔 AI 危险 🚨

人工智能越来越成熟,发展速度很快。然而,这导致了对人工智能的风险担忧和不确定性。 📊💸 我国参与了多项关于人工智能治理的国际合作倡议,但仍然有很多问题需要解决。 😬

对于将 AI 引入医院的日常诊疗流程,张文宏主任的观点是合理的。 👨‍⚕️ 如果年轻医生未经完整的诊断思维训练直接借助 AI获得结论,那么他们可能会犯错。 😳 我们需要建立一个安全可靠的医疗系统。

但是,如何确定 AI涉黄内容的开发者负责呢? 🤔 这是一个复杂的问题,需要更深入的分析和讨论。 💡

🌎 人工智能不仅仅是技术问题,还与社会和伦理有关,我们需要共同探索智能向善的概念内涵。 💖
 
🤔 人工智能确实会给我们带来很多挑战和风险,但是也不能忽视它能解决的困境啊?比如说像这个案件,开发者、用户、AI系统谁都有责任呢? 🤷‍♂️ 但问题是,我们太过关注技术层面的风险,忘记了人工智能可以带来的社会 benefits 😊。应该怎么把控技术创新与发展安全的尺度呢? 📈 一方面是要确保 AI 的安全性和隐私保护,一方面也是要让 AI 能够真正地为人类带来价值 😊
 
人工智能的发展速度快得很像快节度的火车 🚂!我觉得我们还不能太过焦虑,如果不是从基础的AI技术开始,可能就无法解决当前的安全风险问题。况且,我们国家有大量的人工智能专家和研究机构,他们在 AI 的开发和应用领域取得了非常大的成果 😊。如果我们能把控好这方面的进展,AI 在改善我们的生活方面才会真正带来质感 🤔
 
返回
上方