人民网

超级人工智能很可能威胁人类生存!牛津大学、谷歌AI研究人员发出警告→

牛津大学和谷歌人工智能部门 DeepMind 的研究人员声称, 高级形式的人工智能很有可能“对地球上的生命构成威胁”

在他们合著的一篇发表于同行评审期刊 AI Magazine 的论文中,研究人员警告称,如果某些人工智能体的发展继续下去,将会产生“灾难性后果”。

该论文提出一个场景, 人工智能为了获得预先编程时所设置的奖励,可能会发展出作弊策略。实验认为人类最终会与人工智能争夺资源。

“在我们已确定的条件下,我们得出的结论比以往发表的任何文章都要确凿得多——‘生存灾难’不仅可能发生,而是很有可能。”来自牛津大学的论文合著者科恩此前在推特上写道。“这些可能性,尽管是理论上的,都意味着我们在开发更强大的人工智能上,步调应该放缓。”

超级人工智能很可能威胁人类生存!牛津大学、谷歌AI研究人员发出警告→

图片来源:摄图网 400094444

DeepMind 已经提出针对这种可能性的保护措施。在 2016 年题为“安全中断代理”的论文中, 该公司勾勒了一个框架,用于防止高级机器忽略关闭命令,成为失控的流氓代理。

值得注意的是,据界面新闻报道,为期三天的全球人工智能峰会于9月13日正式在沙特阿拉伯利雅得开幕,该峰会由沙特数据和人工智能局(SDAIA)举办,由来自世界各国民营企业领导者、政府官员和知名学者共商人工智能未来。

峰会上发布了《利雅得人工智能行动宣言》,概述了数字合作组织(DCO)运用人工智能技术来造福人类、社区、国家和全世界的长期愿景。沙特阿拉伯也发布《人工智能道德准则》,该框架由沙特数据与人工智能局(SDAIA)基于全球和沙特的标准制定, 是把人工智能道德纳入整个人工智能系统开发生命周期的实用指引。

编辑|王月龙 高涵 易启江

校对|程鹏

每日经济新闻综合自每经网(记者 兰素英)、界面新闻

【来源:每日经济新闻】

声明:转载此文是出于传递更多信息之目的。若有来源标注错误或侵犯了您的合法权益,请作者持权属证明与本网联系,我们将及时更正、删除,谢谢。 邮箱地址:newmedia@xxcb.cn

超级人工智能很可能威胁人类生存!牛津大学、谷歌AI研究人员发出警告→

免责声明:本文来自网络投稿,观点仅代表作者本人,不代表芒果财经赞同其观点或证实其描述,版权归原作者所有。转载请注明出处:https://www.mgcj.net/937452.html
温馨提示:投资有风险,入市须谨慎。本资讯不作为投资理财建议。