人民网

男子用AI技术编假新闻赚流量牟利!评论:AI不应成为谣言炮制机

近日,甘肃省平凉市公安局网安大队侦破一起利用AI人工智能技术炮制虚假不实信息的案件。

男子用AI技术编假新闻赚流量牟利!评论:AI不应成为谣言炮制机

4月25日,平凉市公安局崆峒分局网安大队对“今晨甘肃一火车撞上修路工人致9人死亡”的文章,初步判断为信息虚假不实。网安民警随即开展工作,发现共计21个百度账号均在同一时间段发布该文章,文章内容地点除平凉市崆峒区外还涉及兰州、陇南、定西、庆阳等地,文章点击量已达1.5万余次。经查,涉案百度账号均为广东深圳某自媒体公司所有,公司法人代表洪某弟有重大作案嫌疑。

男子用AI技术编假新闻赚流量牟利!评论:AI不应成为谣言炮制机

5月5日,专案民警在广东东莞嫌疑人住处对其使用的电脑及百家号进行取证。经审讯,犯罪嫌疑人洪某弟通过微信好友获知网络赚取流量变现方法,并购买大量“百家号”。同时使用“易撰”网页版,在全网搜索近几年社会热点新闻,为规避百家号查重功能,洪某弟通过近期火爆的ChatGPT人工智能软件将搜集到的新闻要素修改编辑后,使用“海豹科技”软件上传至其购买的百家号上非法获利。

男子用AI技术编假新闻赚流量牟利!评论:AI不应成为谣言炮制机

洪某弟利用现代科技手段编造虚假信息,并散布在互联网上,被大量传播浏览,其行为已涉嫌寻衅滋事罪。

目前,崆峒公安分局对犯罪嫌疑人洪某弟采取刑事强制措施,案件正在进一步侦办之中。

评论:AI不应成为谣言炮制机

近年来,伴随着人工智能技术的进步,AI造假之风却愈演愈烈。AI“一键换脸”,一位无关人士可以变成当事人,AI“视频合成”,事故现场无中生有。这些不法分子通过AI伪造假新闻、假人物、假现场,冠以突发新闻、科普内容等名号在互联网广泛传播,吸睛牟利,不仅制造谣言、混淆视听,更扰乱网络传播秩序,让“眼见不再为实”的当下,掀起更大的社会信任恐慌。

我国《互联网信息服务深度合成管理规定》明确,深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。转载基于深度合成服务制作发布的新闻信息的,应当依法转载互联网新闻信息稿源单位发布的新闻信息。

“造谣一张嘴,辟谣跑断腿”,换脸、换声等AI造假乱象小到恶意抹黑他人名誉,大至编造灾害信息制造社会恐慌,不仅大大增加科普辟谣的难度,更动摇了新闻真实性根基,容易引发舆情危机,影响政府公信力。一旦这些假新闻被大量传播浏览,造成网上公共秩序严重混乱,还会触犯我国刑法,涉嫌寻衅滋事罪,可谓是后患无穷。

治理AI造假乱象,首先必须厘清AI技术应用的底线和红线,绝不能纵容不法分子利用其侵害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益。其次,AI技术的提供者必须守土有责,从技术源头上加强数据和算法管理,强化对合成技术使用者真实身份信息的认证和核查,避免不法者滥用技术牟利,相关监管部门也要加大监管力度,发现违法乱象,依法依规严惩。

另外,社交媒体、网站等内容发布平台要保持内容合规意识,加强对用户账号真实信息的核查,杜绝“僵尸号”账号买卖。加大用户内容巡查监管频次,提高检测伪造行为的技术水平,及时甄别违法违规合成内容,避免给虚假信息引流,造成更大的传谣风险。

AI深度合成技术在数字仿真、沉浸式拟真等创新场景应用前景广阔,理应成为内容生产的好帮手,而非假新闻的策源地,更不是违法犯罪的推手。从AI造假乱象中应该看到,我们在享受技术高速迭代红利的同时,应该有更加深刻的伦理道德考量,不让AI成为乌龙事件和反转新闻的制造机,守护风清气正的网络生态,是每一个互联网用户的应有之责。(检察日报何慧敏)

综合甘肃公安微信、检察日报·法治新闻版

来源:检察日报正义网

男子用AI技术编假新闻赚流量牟利!评论:AI不应成为谣言炮制机

免责声明:本文来自网络收录或投稿,观点仅代表作者本人,不代表芒果财经赞同其观点或证实其描述,版权归原作者所有。转载请注明出处:https://www.mgcj.net/1028076.html
温馨提示:投资有风险,入市须谨慎。本资讯不作为投资理财建议。

(0)
光明网的头像光明网
上一篇 2023年5月9日
下一篇 2023年5月9日
数字品牌中国行

相关推荐