人民网

OpenAI首席执行官引用《道德经》呼吁就AI安全问题合作

中新网北京6月11日电(中新财经记者 宋宇晟)“随着越来越强大的人工智能系统出现,全球合作的利害关系变得前所未有的重要。”

6月10日,OpenAI首席执行官阿尔特曼(Sam Altman)通过视频连线在2023北京智源大会“AI 安全与对齐”论坛演讲中这样说到。

他在发言中引用《道德经》中的名句“千里之行,始于足下”,呼吁国际科技界就人工智能安全相关问题展开合作,推动建立提高通用人工智能(AGI)安全技术进步方面的透明度和知识共享的机制。

OpenAI首席执行官引用《道德经》呼吁就AI安全问题合作

2023北京智源大会“AI 安全与对齐”论坛现场。智源大会供图

“我们正看到人工智能能力在迅速增长,现在需要做的是负责任地将其应用到世界中去。科学的历史告诉我们,技术进步遵循指数曲线。”

阿尔特曼预测,“在未来的10年内,我们可能会拥超强的人工智能系统。”

“想象一下未来十年的世界,通用人工智能系统在几乎每个领域专业技能都超过了人类。这些系统产生的生产力最终可以超过我们最大公司所能产出的集体生产力。潜在的收益是巨大的。人工智能革命可以创造我们共享的财富,并且显著提高人机交互水平。但我们必须共同管理风险,才能达到这个目的。”

阿尔特曼称,如果人们没能为此做好规划,一个被设计用于改善公共卫生成果但“未对齐的”人工智能系统,可能会通过提供混乱的建议来破坏整个公共卫生体系;同样,一个旨在优化农业实践的人工智能系统可能会无意中损害经济、消耗资源,它会因缺乏对长期可持续性的考虑,从而影响粮食生产和环境平衡。

“我希望我们都能认同,推进通用人工智能安全是我们需要达成共识的最重要领域之一。”他说。

OpenAI首席执行官引用《道德经》呼吁就AI安全问题合作

2023北京智源大会“AI 安全与对齐”论坛现场。智源大会供图

在阿尔特曼看来,通用人工智能的治理,首先应建立起包容的国际准则和标准,为在所有国家使用通用人工智能设立平等、统一的防护措施;其次需要国际合作,以可验证的方式在全球范围内建立对越来越强大的通用人工智能系统安全开发的信任。

他说,“我们可以迈出的最有建设性的一步就是国际科技界共同合作,提高AGI安全技术进步方面的透明度,建立知识共享机制。当研究人员发现紧急问题时,应分享他们的发现。我们需要认真思考如何在尊重和保护知识产权的同时,鼓励这样的分享。这将为我们深化合作打开新的大门。”(完)

OpenAI首席执行官引用《道德经》呼吁就AI安全问题合作

免责声明:本文来自网络收录或投稿,观点仅代表作者本人,不代表芒果财经赞同其观点或证实其描述,版权归原作者所有。转载请注明出处:https://www.mgcj.net/1044871.html
温馨提示:投资有风险,入市须谨慎。本资讯不作为投资理财建议。

(0)
中国新闻网的头像中国新闻网
上一篇 2023年6月11日 上午8:17
下一篇 2023年6月11日
数字品牌中国行

相关推荐