来源:东财财经头条
一场科技巨头齐聚白宫的会议,美国总统拜登“顺便”参加,并透露自己曾“亲身试用”。
美国东部时间5月4日,美国总统拜登出席了在白宫举行的一个人工智能(AI)会议,会见包括谷歌、微软和OpenAI在内的顶级AI公司的首席执行官。会议对AI技术所带来的风险和治理措施进行了讨论。拜登和美国副总统哈里斯均强调科技公司需对AI产品的安全负责。
今年以来,以ChatGPT为代表的生成式大模型成为全球范围内的热词,数以亿计的用户开始使用相关产品,但与此同时,相关的风险也越来越不容忽视。
近期,各国纷纷开始监管介入,讨论人工智能时代下一系列的法律与社会问题。
除美国之外,全球各国均在陆续落地AI监管措施。资本市场上投资者将目光投向AI安全赛道。美亚柏科、三六零等公司均获投资者关注,相关公司也透露了在AI内容检测、防御AI发起的网络攻击等方面的布局。
拜登试用GPT
与顶尖科技公司CEO召开AI风险治理会议
周四举行的AI风险治理会议进行了两个小时,由美国副总统哈里斯主持,拜登出席。与会者包括谷歌CEO桑达尔·皮查伊(Sundar Pichai)、微软CEO萨蒂亚·纳德拉(Satya Nadella)、OpenAI的CEO山姆·奥特曼(Sam Altman)和Anthropic的联合创始人达里奥·阿莫代(Dario Amodei),以及一众白宫要员。
有意思的是,在会议现场,美国总统拜登“刚好顺便”参加了会议。
据一位白宫官员透露,拜登此次是“顺便”参加会议,他还使用了ChatGPT。这位官员对媒体表示:“拜登已经全面了解了ChatGPT,并亲自进行了试验。”
白宫新闻秘书让·皮埃尔在新闻发布会上表示,拜登的兴趣凸显了一个事实,即他和副总统哈里斯将AI视为“我们这个时代最强大的技术之一”。
哈里斯在一份声明中表示,AI技术有可能改善生活,但也可能会带来安全、隐私和公民权利方面的担忧。她告诉这些科技公司的高管,他们有责任确保其AI产品的安全,政府对AI方面的立法持开放态度。
在白宫人工智能会议结束后,山姆·奥特曼表示:“各公司在人工智能需要发生的事情(指安全监管等问题)上意见一致,我支持推进新的人工智能监管规定,支持新的立法。”
让·皮埃尔表示,这次会谈是“诚实”和“坦率”的。“我们有四位首席执行官在这里与副总统和总统会面,这表明我们对此有多重视。”她补充道,人工智能公司必须提高透明度,包括让公众评估和衡量其产品的能力,这对于确保人工智能系统的安全和信心至关重要。
值得注意的是,就在会议之前,白宫宣布,美国国家科学基金会计划花费1.4亿美元建立专门用于人工智能的新研究中心。
一个月前,拜登与其科技顾问会面时表示,AI可以帮助解决疾病和气候变化问题,但解决因此引发的社会、国家安全和经济潜在风险也很重要。
“科技公司有责任确保他们的产品在公开之前是安全的。”拜登在科学技术顾问委员会会议开始时说。对于AI是否危险,他说:“还有待观察,这是有可能的”。他以社交媒体为例,说明强大的技术如果没有正确的保护措施就可能造成危害。
各国加快人工智能监管
AI安全是下一个蓝海?
随着新一轮AI技术革命掀起越来越广泛的社会影响,关于人工智能的忧虑也越来越引发关注。人们越来越担心,这些技术可能会侵犯隐私、导致大规模失业、诈骗和传播错误信息等。
而更引人关注的,是近期被誉为“人工智能教父”的前谷歌科学家杰弗里·辛顿关于人工智能的一系列忧虑。
据媒体报道,现年75岁的前谷歌科学家杰弗里·辛顿在神经网络领域长期从事开创性工作,为人工智能(AI)技术的发展奠定基础。而在今年5月初接受媒体采访时,辛顿坦言,他之所以离开谷歌,就是为了完全自由地说出人工智能所带来的危险,甚至还说他对自己在人工智能领域所付出的贡献感到懊悔。
尽管风险尚未明确,但是显然各国都开始意识到对人工智能监管的必要性。美国政府并不是唯一寻求塑造人工智能发展的国家。欧盟官员预计,最早将于今年敲定人工智能立法,这可能对全球人工智能公司产生重大影响。
欧盟委员会执行副主席、竞争专员玛格丽特·维斯塔格在4月24日接受媒体采访时表示,关于ChatGPT等生成式AI,“将尽快颁布”在整个欧盟实施监管的新法规,制定合理使用生成式AI的统一规则,降低用户风险。
而就在本周四稍早些时候,英国竞争与市场管理局(CMA)也确认,该部门正在对人工智能市场展开评审,其中也包括大语言模型、生成式人工智能在内的基础模型。
上个月,我国国家互联网信息办公室发布关于《生成式人工智能服务管理办法(征求意见稿)》。
监管浪潮下,网络、数字安全赛道的上市公司频获投资者关注。相关公司也在投资者互动平台回应了公司对AI风险的研判与安全方面的布局。
5月4日,美亚柏科在投资者互动平台表示,公司将积极响应国家政策,布局人工智能安全的产品和解决方案,当前主要包括两个方面:第一是针对利用人工智能违法的相关电子数据取证溯源,布局相关取证技术;第二是在人工智能算法、系统的安全性评估方面,按照《中华人民共和国数据安全法》、《互联网信息服务深度合成管理规定》等法律法规,布局人工智能产品安全合规的评测技术。接下来公司将对各类AIGC内容的检测、AI生成文本的检测技术及产品进行布局,也会在利用人工智能进行生成活动中的取证,以及人工智能算法模型的安全性和合规性方向,开展相关的业务工作,从而助力公司做强做优做大。
早在4月初,三六零回复了投资者对AI风险的研判。该公司认为,人工智能的风险大致可分为三个层次:一是可以使用AI作为防御武器对抗攻击方利用AI发起的网络攻击,守护国家的数字安全,包括扫描漏洞、发现高级威胁等。360AI安全监测平台已累计发现200多个漏洞,在全球各大厂商中排名第一,成果入选了中央网信办“人工智能企业典型应用案例”;二是需要确保通用型人工智能生成的内容和结果是安全的,360作为国内第二大的搜索引擎厂商,在这方面具有相当长时间的成功经验积累;三是需要确保通用型人工智能其本身是安全、可控的,这将会是AI技术发展道路上的长期命题。
此外,近日凭全媒体智慧监管解决方案中标北京广电相关项目的博汇科技、信息安全行业公司格尔软件等公司也被投资者问询“公司在AI监管方面有何布局”。
免责声明:本文来自网络收录或投稿,观点仅代表作者本人,不代表芒果财经赞同其观点或证实其描述,版权归原作者所有。转载请注明出处:https://www.mgcj.net/1026147.html
温馨提示:投资有风险,入市须谨慎。本资讯不作为投资理财建议。