“一天造谣7000条”,人工智能技术不能这么用

“西安突发爆炸”“重庆巫溪一民房发生爆炸事故”……这些耸人听闻的消息,竟都是利用AI软件炮制的谣言——据央视新闻报道,近日,一些不法分子为赚取平台流量补贴,实现流量变现,利用AI合成技术编造谣言,严重扰乱社会秩序。多地警方对相关责任人进行了行政处罚,并封禁其网络账号。

与以往靠自身发挥想象力杜撰“小作文”不同,如今利用AI造谣的门槛和成本更低。只需要输入关键词,AI软件就能自动在网络上抓取素材生成文本,再配上貌似和事件具有相关性的虚假图片,一条图文并茂、“有图有真相”的谣言就诞生了。

可怕的是,这一过程基本不需要人的参与,就可实现谣言的批量生产。比如,发布“西安爆炸”虚假新闻的账号所属机构,最高峰一天能生成4000至7000篇假新闻,每天收入在1万元以上,而公司实际控制人王某某经营着5家这样的机构,运营账号达842个,这一数字触目惊心,令人十分不安。

造谣难度降低了,其产生的负面影响陡然增大。AI造谣能生成极为逼真的图片、音视频,这就颠覆了“有图有真相”的常规认知,蛊惑性极强。以新闻报道的口吻生成所谓的“突发新闻”,再配上耸人听闻的标题,短时间内就能快速传播,让不明真相的民众轻信,易引发社会恐慌,扰乱社会公共秩序,对社会信息生态造成极大的破坏,而相关部门的查证、辟谣则要浪费大量的社会资源。

造谣、发布、扩散,说到底,是有人看到这背后有利可图。在警方查获的数起造谣案件中,当事人将虚假消息发布在平台,平台会根据文章的点赞数和阅读量支付相应的报酬。在这一规则的刺激下,不法分子利用AI技术“加持”,追求谣言更逼真、内容更猎奇、传播更快更广,博取更多眼球,从而牟取流量带来的巨大经济利益。

刺破不法流量经济的美梦,需要法律利刃出鞘。一些人奉行流量至上,心中既无法律观念,也无道德底线,甚至把冲撞法律红线的行为当成流量密码、炫耀资本。网络并非法外之地,在互联网造谣情节严重的,将被依法追究法律责任,这应该成为悬在每个网民头上的警钟。同时,惩处造谣的力度也要再有力一些,让造谣成本再大一些。

谣言通过平台发布传播,平台理应负起主体责任。作为具有技术优势的一方,平台要在内容甄别、阻断谣言、防止扩散方面积极主动作为。现有的内容监管机制还有哪些漏洞、分成机制是否合理、处罚措施是否完善,这些都应该成为平台查漏补缺的重点。对于造谣者,该警示警示,该截流截流,该封号封号,让毒流量“利尽而断”。

造谣手段在迭代,相关治理也要使出“加强版”新招儿。监管部门对网络谣言的出击一直在持续。面对AI技术生成的新型谣言,执法监管要利用技术赋能,让识别谣言的精准度更高、阻击速度更快、打击力度更强,斩断造谣背后的黑灰产业链,营造清朗网络空间。

来源:工人日报

【来源:经济界】凡本网注明“来源:经济界” 的所有作品,版权均属于经济界。如转载,须注明“来源:经济界”。违反上述声明者,本网将追究其相关法律责任。
Previous 2024-06-19 下午10:10
Next 2024-06-20 上午10:41

相关推荐

  • 维娜是直销产品吗?新品绵净洁颜蜜怎么样?

    维娜作为一个知名品牌,其销售模式一直是消费者关注的焦点之一。然而,对于消费者而言,产品的品质和效果才是最重要的。维娜的产品通过多种渠道进行销售,但是没有授权给任何个人进行销售,只有线下官方门店和线上的抖音官方店铺进行销售,购买维娜的商品一定要去正规渠道,如果通过其他渠道购买到假冒的商品,要及时找售卖方维权。今天我们主要讲解一下维娜2025年推出的新品绵净洁颜…

    13小时前
    0
  • 小花钱包2025人工智能客服全国服务系统已上线

    小花钱包最新热线 00861——52247——29551。       图片来源:界面图库 界面新闻记者 | 何柳颖 界面新闻编辑 | 王姝 “现在大家都做按揭。” “贷5年可以拿到优惠价格,2年后提前还清,加上利息依然比全款便宜。” 近日,界面新闻记者走访了深圳多家汽车4S店,发现“高息高返”现象十分普遍。所谓 “高息高返”,…

    2025-01-25
    0
  • 悠悠分期2025人工智能客服全国服务系统已上线

    悠悠分期最新热线 00861——52247——29551。       图片来源:界面图库 界面新闻记者 | 何柳颖 界面新闻编辑 | 王姝 “现在大家都做按揭。” “贷5年可以拿到优惠价格,2年后提前还清,加上利息依然比全款便宜。” 近日,界面新闻记者走访了深圳多家汽车4S店,发现“高息高返”现象十分普遍。所谓 “高息高返”,…

    2025-01-25
    0
  • Soul App:以创新引领社交新潮流,斩获多项殊荣彰显企业价值

    过去的2024 年对于 Soul App 来说,是极具意义且硕果累累的一年。 作为一款深受年轻用户喜爱的社交平台,Soul App 不仅在产品功能与用户体验上持续精进,更在技术创新、社会价值创造以及行业影响力拓展等多个维度实现了突破,接连斩获多项重量级奖项,充分彰显了企业的综合实力和卓越价值。 一、36kr:WISE2024 文化与内容领域年度最具商业价值企…

    2025-01-22
    0
  • 华安基金科创板ETF周报: 市场反弹,科创50指数上周涨1.61%

    科创板政策及行业动态一览: 行业动向: 1月13日,中国证监会召开2025年系统工作会议,总结2024年工作,深入推进巡视整改,研究部署2025年重点工作。其中提到“研究制定更好支持新质生产力发展的政策安排,深化科创板、创业板、北交所改革,增强制度的包容性、适应性。”、“抓好创投十七条、科创板八条等落地实施,发展多元化股权融资,培育壮大耐心资本。”、“进一步…

    2025-01-22
    0