快捷导航 
时间：2024-07-21 21:10:01来源：互联网
“有图有真相,这都是专家认证过的。”
近日,天津市民李萌(化名)与母亲就一篇“科普文章”发生了激烈的争吵:母亲坚信文章中有视频、有图,还有各种所谓博士、医疗团队得出的研究结论,不可能是假的;李萌仔细辨别文章发现,文章为AI生成,平台也进行了辟谣,肯定是假的。
这篇文章的内容与猫有关——有一名女生抱着猫玩,得了一种绝症叫“毛病”,后期整个人变得面目全非。也正是因为这篇文章,李萌母亲坚决反对她养猫,因为害怕她也患上“毛病”。李萌对此哭笑不得,“真希望我妈能少上点网”。
遭AI谣言坑骗的远不止李萌母亲。近期,多地公安机关发布了多起利用AI工具实施造谣的相关案件,如发布“西安突发爆炸”虚假新闻的账号所属机构,最高峰一天能生成4000至7000篇假新闻,每天收入在1万元以上,而公司实际控制人王某某经营着5家这样的机构,运营账号达842个。
接受《法治日报》记者采访的专家指出,便利的AI工具大幅降低了造谣的制造成本,提升了谣言的数量级和传播力。AI造谣呈现出门槛低、批量化、识别难等特点,亟待加强监管,斩断背后利益链条。
用AI编造不实消息
传播迅速多人受骗
6月20日,上海警方发布通报,两名品牌营销人员为蹭热度,编造了“中山公园地铁站捅人”等不实信息,相关人员已遭警方行政拘留。通报中,有个细节引人注意:一名造假者使用AI软件生成视频技术,编造了地铁行凶的虚假视频等不实信息。
记者梳理发现,近年来,利用AI造谣现象频发,且传播速度极快,一些谣言造成不小的社会恐慌和危害。
去年,在上海一女童走失事件中,一团伙以“标题党”“震惊体”方式,恶意编造炒作“女孩父亲系继父”“女孩遭带往温州”等谣言。该团伙利用AI工具等生成谣言内容,通过114个账号矩阵,在6天内发布268篇文章,多篇文章点击量超过100万次。
公安部网安局近期公布一起案例。2023年12月以来,一条“西安市鄠邑区地下涌出热水”的信息频繁在网络上传播,出现如“地下出热水是因为发生了地震”“是因为地下热管道破裂”等谣言。经查,相关谣言是通过AI洗稿方式生成的。
近日,“济南一高层住宅楼起火,多人跳楼逃生”“晨练大爷在济南英雄山附近发现坟中活人”……这些离谱的“重磅消息”在网上广泛传播,引起大量关注。济南市委网信办第一时间通过济南互联网联合辟谣平台进行辟谣,但还是有不少人遭“有图有真相”的表象迷惑。
清华大学新闻与传播学院新媒体研究中心今年4月发布的一份研究报告显示,近两年的AI谣言中,经济与企业类谣言占比最高,达43.71%;近一年来,经济与企业类AI谣言量增速高达99.91%,其中餐饮外卖、快递配送等行业更是AI谣言重灾区。
那么,利用AI制造一篇假新闻具体有多简单?
记者用市面上流行的多款人工智能软件测试发现,只要给出关键词,就能在几秒钟内立刻生成一篇“新闻报道”,包括事情详细经过、评论观点、后续做法等,只要加上时间地点,再配上图片和背景音乐,一篇以假乱真的新闻报道便制作完成。
记者发现,很多AI生成的谣言中,都夹杂着“据报道”“相关部门正对事故原因进行深入侦查,并采取措施进行抢修”“提醒广大市民在日常生活中要注意安全”等内容,在网上发布后人们往往难辨真伪。
除了AI新闻,科普文章,图片、配音视频、换脸后模仿声音,这些都可以利用AI产生,在人工进行微调并融入一些真实的内容后,它们就会变得难以辨别。
中国人民大学新闻与社会发展中心研究员曾持说,“生成式AI”的拼接本质和谣言有很强的亲近性,二者都属于“无中生有”——创造看起来真实合理的信息。AI让造谣更加简单和“科学”了,AI根据热点事件总结规律、拼接情节,很快就能制作出符合人们“期待”的谣言,传播更加迅速。
“网络平台可以用AI技术反向对图像和视频的拼接进行检测,但很难对内容进行审查。当下人们并没有能力完全拦截谣言,更何况有许多未经证实或无法证实、模棱两可的信息。”曾持说。
为获流量牟利造假
涉嫌构成多种罪名
有些AI软件的“造谣效率”非常惊人。比如,出现了“一天能生成19万篇文章”的造假软件。
据破获该软件的西安警方介绍,警方提取了该软件7天保存的文章,发现总量超过100万篇,涉及时事新闻、社会热点、社会生活等各方面。账号的使用者有组织地将这些“新闻”发布到相关平台,再利用平台的流量奖励制度等获利。目前,该案涉及的账号已遭平台查封,有关软件和服务器也遭关闭,警方还在对案件进行深挖。
在多起AI造谣事件背后,造谣者的动机主要源于引流和借此牟利。
