之江轩:警惕人工智能带来六大陷阱

从ChatGPT到Sora,这两年人工智能的发展速度之快、影响范围之广、渗透能力之强,让人们直观地感受到未来已来。

新技术的发展,有时会伴随着悖论和陷阱。面对AI市场这片蓝海,人工智能带来的六大陷阱需要引起高度警惕。

一、数据安全陷阱:你的“AI朋友”能守口如瓶吗

在科幻电影中,因为数据泄露带来的安全隐忧曾在很多情节中出现过。而在现实中,随着AI技术在各行各业的广泛应用,数据安全的确成为一个重要且紧迫的问题。

人工智能系统的个性化服务,往往依赖于大量个人数据的输入和模型训练。也就是说,你的“AI小伙伴”越智能,个人信息“喂养”得越频繁,你在它面前就越像个“透明人”。数据的收集、存储、处理和使用过程,任何一个环节出了差错,就可能存在个人健康记录、金融信息、位置数据等敏感信息泄露的风险。

除了隐私泄露外,研究人员发现,当前人工智能技术在实践应用中,还可能带来模型中毒、数据篡改、内部威胁、蓄意攻击等数据安全威胁。而AI时代数据安全治理有哪些出路,也成为相关领域的热门课题。

之江轩:警惕人工智能带来六大陷阱

图源:“科学家杂志”微信公众号

二、侵权陷阱:AI创作不能“随心所欲”

我们一贯认为“艺术是人类最终的圣殿”,人类之外无法取代。但如今,生成式人工智能打破了人类对创作的“垄断”。谷歌公司旗下的人工智能模型“双子座(Gemini)”根据“三言两语”就能生成一篇短篇小说或诗歌;去年,“AI孙燕姿”等AI翻唱刷屏网络,登上热搜。

一边是AI创作的喷涌式发展,另一边是艺术家们的“集体担忧”。今年4月,世界各地的200余名音乐人联合发布了一封反对AI的公开信,呼吁数字音乐开发商“停止使用人工智能来侵犯和贬低人类艺术家的权利”。

生成式人工智能推动了创作方式的变革,也引发了关于版权归属、责任界定和利益分配等问题。不久前,全国首例“AI声音侵权案”一审宣判,四个被告方使用原告声音、开发涉案AI文本转语音产品未获得合法授权,构成侵权,有的赔礼道歉,有的赔偿原告各项损失25万元。

目前,探索建立对于AI生成内容侵权判定的具体规则、加强对相关领域的法律监管是必要而且是迫切的。AI创作不能随心所欲,须守好边界,行有所止、行有所戒。

三、认知陷阱:人工智能也有“智商欠费”的可能

人工智能也有智商“掉线”之时,究竟是“人工智能”还是“人工智障”,需要一双慧眼去辨别。

当前,大语言模型在处理和生成信息时,仍有生成错误或误导性回答的概率。训练数据的选择、算法设计的方式,以及最终应用场景中的使用方法,都可能导致AI“犯迷糊”。

如,有网友在使用人工智能系统生成旅游攻略时,系统忽略了天气等客观因素,“AI导游”带着网友在烈日下户外徒步,令人哭笑不得;还有网友发现,在某款语言模型的两个子系统中,分别用中、英文问同一个问题,则会得到截然不同的答案。

四、伦理陷阱:“数字生命”能真正寄托思念吗

现实与虚拟的界限、人机情感的可能性等,一直都是人工智能面临的伦理问题。

此前,一位音乐人利用AI技术让因病去世的女儿在数字世界“复活”,原本天人永隔的亲人,通过人工智能进行互动,弥补了情感的缺憾。但同时,有网络博主通过AI制作已逝公众人物的视频,打着温情的名义收割流量,备受争议。

有人因此想到《流浪地球2》里的“数字生命”,“质疑图恒宇,理解图恒宇,成为图恒宇”,这就是AI存在的意义,抚慰悲伤、治愈人心;也有人因此开始思考技术该有的界限和底线。AI“复活”必须经过家人同意,并符合法律,否则就要警惕侵权陷阱和伦理陷阱。

技术的“一体两面”并非新论,历史上很多重大的技术革新都曾被视为“双刃剑”,既带来巨大益处,也引发新的挑战和问题。科技能否暖人心,究竟是“数字疗愈”还是“数字陷阱”,最终要看它是不是向善,是不是为美好生活所服务,有没有界限分明的底线和红线。

之江轩:警惕人工智能带来六大陷阱

电影《流浪地球2》中的“数字生命”图丫丫 图源:微博@电影流浪地球

五、诈骗陷阱:眼见不一定为实

人工智能时代,文字、声音、图片和视频都有可能是假的,“眼见为实”不再是绝对真理。当我们觉得“换脸”“变声”技术只是“好玩”的时候,骗子们已盯上了深度合成等人工智能技术。

当前,电信诈骗已走向智能化、定制化,相关案件时有发生。据某机构发布的《2024人工智能安全报告》显示,2023年,基于AI的深度伪造欺诈暴增3000%,基于AI的钓鱼邮件增长1000%。

人工智能技术不仅可以让各种骗术“有图有真相”,甚至还能“有视频”,这让骗子伪造的身份看似更加“可信”,令普通老百姓防不胜防。在前段时间香港警方披露的多人“AI换脸”诈骗案中,受害人在多人视频会议中被要求先后多次转账,而除了受害人是“真人”上线,其余都是经过AI“换脸”的诈骗同伙。

之江轩:警惕人工智能带来六大陷阱

被骗2亿港元,男子参加多人视频会议只有自己是“真人” 图源:“央视网”微信公众号

六、舒适陷阱:在AI面前如何当“伸手党”

当我们越来越频繁地借助AI帮我们完成计划制定、资料搜集、文本写作时,AI系统在反复训练过程中不断“成长”,而我们原本熟练的技能却在“偷懒”中面临退化的风险。某媒体的一项调查显示,52.6%的受访者表示“比较担心”AI工具的普及会让个人的表达能力变差,20.9%的受访者表示“非常担心”。

也有学者认为,选择“节能”模式是人类的天性和本能。人工智能时代,人类的机械性体力技能和计算型脑力技能也许会逐渐退化,但从长远来看,也会催生诸如创新研发、优化设计、实时分析等新的技能增长点。

是“退化”还是“新生”,是“去技能化”还是“再技能化”,取决于我们在人工智能面前当“伸手党”时,对技能退化、创造力减弱、决策依赖等一系列问题能不能多一分感知和警惕,同时,能否相对应地去提升更高阶的技能,从而更好地驾驭技术。

人工智能的未来就像“薛定谔的猫”,充满不确定性。但可以确定的是,人类不会在各种陷阱面前望而却步、畏首畏尾。面对人工智能带来的陷阱,坚持开放而审慎、包容而敬畏、大胆而自信的心态,我们就能与新技术的更迭保持同频,站在人工智能的肩膀之上抓住机遇,确保AI技术朝着有益于人类福祉的方向发展。

【来源:经济界】凡本网注明“来源:经济界” 的所有作品,版权均属于经济界。如转载,须注明“来源:经济界”。违反上述声明者,本网将追究其相关法律责任。
上一篇 2024-06-16 下午5:02
下一篇 2024-06-16

相关推荐

  • 崔天凯寄语毕业生:人工智能是热门,但强大的算力不可能代替独立思考

    7月7日,上海科技大学2024届毕业典礼暨学位授予仪式举行,中国前驻美国大使崔天凯发表特邀主旨演讲。 崔天凯的演讲主题为“迎百年变局、走自强之路”,他结合自己在国外留学,特别是担任驻美大使等经历的深入思考,希望毕业生坚定自信,叮嘱毕业生要学会用科学的世界观和方法论认识世界、认识自己。 崔天凯坦言,现在一些“网红”、“大咖”很有影响,人工智能更是大热门,似乎有…

    2024-07-07
    0
  • “没有演员,均由AI生成”,快手宣布即将上线AIGC短剧

    7月6日,世界人工智能大会(WAIC)期间举行的快手大模型论坛上,快手副总裁、大模型团队负责人张迪宣布,快手首部AIGC原创奇幻短剧《山海奇镜之劈波斩浪》即将上线,可灵为该剧提供深度技术支持。张迪表示,利用AI技术可大幅度提高短剧生产、制作和运营的效率。论坛上也播放了该剧的预告片。 快手大模型团队方面向观察者网透露,该剧由该团队提供深度技术支持,配合创作团队…

    2024-07-07
    0
  • 生成式人工智能,我国遥遥领先了吗?

    近日,世界知识产权组织(WIPO)发布了《生成式人工智能专利态势报告》。报告显示,2014年到2023年,中国生成式人工智能专利申请量超3.8万件,居世界第一位,是第二名美国的6倍。看到这个令人振奋的消息,一些网友把“遥遥领先”打在公屏上。 我们真的遥遥领先了吗?这要从两方面来看。一方面,我们应该自信自强;另一方面,我们不可自傲自满。 生成式人工智能技术(A…

    2024-07-07
    0
  • 圆桌|人工智能创新涌现,学界如何站到最前沿?

    校长激辩AI人才培养 “什么是AGI(通用人工智能)?形象地说,它就像是AI(人工智能)的爱因斯坦。” 7月4日,在2024世界人工智能大会“人工智能:科研范式变革与产业发展”主题论坛上,上海科学智能研究院(以下简称上智院)院长、复旦大学浩清特聘教授漆远谈到了他心目中AGI和AI4S(AI for Science,科学智能)的未来形态。 在大模型如雨后春笋、…

    2024-07-07
    0
  • 新华财经丨2024世界人工智能大会探馆:这些人工智能技术集中亮相

    来源:新华网 新华社上海7月5日电(记者 王淑娟)4日,2024世界人工智能大会在上海开幕,大会深度聚焦人工智能的前沿技术、应用场景与创新生态。今年有哪些“镇馆之宝”?有哪些重磅新品首发首秀?有哪些神奇的“模力”应用落地呢?跟随记者的镜头一起来看看吧! 重播 播放 00:00 / 00:00 直播 00:00 进入全屏 50 点击按住可拖动视频 人工智能正在…

    2024-07-06
    0