“一天造谣7000条”,人工智能技术不能这么用

“西安突发爆炸”“重庆巫溪一民房发生爆炸事故”……这些耸人听闻的消息,竟都是利用AI软件炮制的谣言——据央视新闻报道,近日,一些不法分子为赚取平台流量补贴,实现流量变现,利用AI合成技术编造谣言,严重扰乱社会秩序。多地警方对相关责任人进行了行政处罚,并封禁其网络账号。

与以往靠自身发挥想象力杜撰“小作文”不同,如今利用AI造谣的门槛和成本更低。只需要输入关键词,AI软件就能自动在网络上抓取素材生成文本,再配上貌似和事件具有相关性的虚假图片,一条图文并茂、“有图有真相”的谣言就诞生了。

可怕的是,这一过程基本不需要人的参与,就可实现谣言的批量生产。比如,发布“西安爆炸”虚假新闻的账号所属机构,最高峰一天能生成4000至7000篇假新闻,每天收入在1万元以上,而公司实际控制人王某某经营着5家这样的机构,运营账号达842个,这一数字触目惊心,令人十分不安。

造谣难度降低了,其产生的负面影响陡然增大。AI造谣能生成极为逼真的图片、音视频,这就颠覆了“有图有真相”的常规认知,蛊惑性极强。以新闻报道的口吻生成所谓的“突发新闻”,再配上耸人听闻的标题,短时间内就能快速传播,让不明真相的民众轻信,易引发社会恐慌,扰乱社会公共秩序,对社会信息生态造成极大的破坏,而相关部门的查证、辟谣则要浪费大量的社会资源。

造谣、发布、扩散,说到底,是有人看到这背后有利可图。在警方查获的数起造谣案件中,当事人将虚假消息发布在平台,平台会根据文章的点赞数和阅读量支付相应的报酬。在这一规则的刺激下,不法分子利用AI技术“加持”,追求谣言更逼真、内容更猎奇、传播更快更广,博取更多眼球,从而牟取流量带来的巨大经济利益。

刺破不法流量经济的美梦,需要法律利刃出鞘。一些人奉行流量至上,心中既无法律观念,也无道德底线,甚至把冲撞法律红线的行为当成流量密码、炫耀资本。网络并非法外之地,在互联网造谣情节严重的,将被依法追究法律责任,这应该成为悬在每个网民头上的警钟。同时,惩处造谣的力度也要再有力一些,让造谣成本再大一些。

谣言通过平台发布传播,平台理应负起主体责任。作为具有技术优势的一方,平台要在内容甄别、阻断谣言、防止扩散方面积极主动作为。现有的内容监管机制还有哪些漏洞、分成机制是否合理、处罚措施是否完善,这些都应该成为平台查漏补缺的重点。对于造谣者,该警示警示,该截流截流,该封号封号,让毒流量“利尽而断”。

造谣手段在迭代,相关治理也要使出“加强版”新招儿。监管部门对网络谣言的出击一直在持续。面对AI技术生成的新型谣言,执法监管要利用技术赋能,让识别谣言的精准度更高、阻击速度更快、打击力度更强,斩断造谣背后的黑灰产业链,营造清朗网络空间。

来源:工人日报

【来源:经济界】凡本网注明“来源:经济界” 的所有作品,版权均属于经济界。如转载,须注明“来源:经济界”。违反上述声明者,本网将追究其相关法律责任。
上一篇 2024-06-19
下一篇 2024-06-19

相关推荐

  • Nullmax推出新一代端到端自动驾驶技术NI

    随着自动驾驶技术的飞速发展,汽车智能化程度快速提升,智驾应用场景逐步扩大,高阶功能向城市加速渗透。但是由于重规则、泛化差、成本高、开不好等问题,智能驾驶的普及受到限制,范围、规模有待提升。7月16日,Nullmax纽劢在上海举办的“AI无止境,智变新开端”2024技术发布会上,新一代自动驾驶技术Nullmax Intelligence(简称“NI”)的亮相,…

    21小时前
    0
  • 拜登有阿尔茨海默症风险吗?中国的公司告诉你真相

    中国科技公司预测美国总统感染风险:从视频分析到现实验证 在科技日益融入全球公共卫生监测体系的背景下,中国沃民高新科技(北京)股份有限公司的新冠病毒风险监测分析能力再次吸引了世界的目光。7月11日,该公司发布的一份报告指出,美国总统乔·拜登存在新冠病毒感染的高风险。7月18日早晨,拜登竞选团队负责人珍妮特·穆尔吉亚(Janet Murguia)确认,总统的Co…

    3天前
    0
  • 菜鸟无忧:大学生求职要注意的重要事项

    毕业季到来,许多大学生即将步入职场,开启职业生涯。与此同时,高考志愿也已陆续填报,准大学生群体也将步入大学校园。菜鸟无忧提示,无论是毕业生还是在校生亦或是准大学生,职业规划很重要,建议大家提前做好就业求职准备。 第一是要明确职业目标。大学生需要明确自己的职业目标。这不仅包括自己希望从事的行业和岗位,还涉及到对未来职业发展的规划。通过自我分析,了解自己的兴趣、…

    3天前
    0
  • 打破次元壁,迎接新势力降临!航嘉MVPLAND二次元形象薇岚空降BW现场

    一年一度的Bilibili World(B站线下嘉年华)如期在大家熟悉的上海国家会展中心盛大召开,这是一场属于广大二次元玩家的狂欢盛会,也是硬件厂商打破次元壁,与二次元实现梦幻联动的桥梁。7月12日,航嘉在BW2024的现场发布了旗下高端子品牌MVPLAND的二次元形象——薇岚,引燃全场玩家们的激情。 薇岚的缘起 薇岚源自MVPLAND与二次元文化的深度融合…

    2024-07-12
    0
  • 恒小花:人工智能未来改变世界的无限可能

    在科技日新月异的今天,人工智能(AI)作为一股不可忽视的力量,正逐步揭示其改变世界的无限潜力。从日常生活到全球经济结构,从医疗健康到环境保护,人工智能的未来发展将深刻地重塑我们的世界,开启一个充满机遇与挑战的新时代。 1. 个性化与定制化服务的极致体验 随着人工智能技术的不断进步,未来我们将享受到更加个性化、定制化的服务体验。无论是购物推荐、娱乐内容选择,还…

    2024-07-09
    0