OpenAI、谷歌DeepMind现任和前任员工警告人工智能风险,呼吁保护吹哨人

周二,7名OpenAI前员工、4名现任匿名员工和谷歌DeepMind前任与现任员工发布公开信,警告商业公司竞相开发人工智能产品存在风险,该行业缺乏足够的监管,并可能对吹哨人打击报复。

公开信刊载在righttowarn.ai网站上,网站域名和信件标题都在捍卫这些顶尖AI公司员工《对先进人工智能发出警告的权利》,呼吁对AI行业进行全面改革,包括提高透明度和保护吹哨人。

信件称,人工智能技术有潜力为人类带来前所未有的利益,但也存在严重风险,包括进一步加剧现有的不平等、操纵和误导信息,以及失去对自主人工智能系统的控制,可能导致人类灭绝。

信件随即列出OpenAI、谷歌人工智能实验室Google DeepMind、谷歌和亚马逊支持的AI初创公司Anthropic等官网,以及英美等国政府网站和一些人工智能专家都“已承认存在这些风险”。

公开信称,原本希望在科学界、政策制定者和公众的充分指导下,上述先进AI系统带来的风险能够得到充分缓解,但人工智能公司有强烈的经济动机来逃避有效监督:

“人工智能公司掌握着大量非公开信息,包括其系统的能力和局限性、保护措施的充分性,以及不同类型伤害的风险水平。但它们目前只有很弱的义务向政府分享部分信息,对公民社会则没有任何分享义务。我们认为,不能指望它们(注:商业公司)自愿分享这些信息。”

信件还称,AI公司们与员工签署了广泛的保密协议,与离职员工签署了不能借由披露AI风险而“对公司进行贬低批评”的严苛条款,整个行业发生过对吹哨人各种形式的报复案件。

因此,公开信要求OpenAI及所有人工智能公司都不得签订或执行避免批评AI风险的保密协议,不能通过妨碍揭露AI风险吹哨人的既得经济利益来打击报复,而且要为现任和前任员工提供“可验证的匿名流程”,以便向公司董事会、监管机构和具有相关专业知识的独立组织提出与AI风险相关的担忧,前提是吹哨人需要对公司的商业机密和其他知识产权利益进行适当保护。

据介绍,签署公开信的多位OpenAI前任雇员曾从事人工智能安全工作,为公开信背书的业内大佬则有“人工智能教父”Geoffrey Hinton、因开创性AI研究而获得图领奖的Yoshua Bengio,以及AI安全领域的顶尖专家Stuart Russell。

不过,上个月从OpenAI离职的两位资深人工智能研究员没有签署或支持公开信,其中包括Geoffrey Hinton的学生、OpenAI联合创始人兼前任首席科学家lya Sutskever。另一位OpenAI前任董事Jan Leike在离职之际发表一系列文章对强大的AI系统潜在风险发出警告。

据署名签字公开信的OpenAI前任员工对媒体介绍,这家位于旧金山的人工智能热门公司存在“为争夺谁第一个把最强大AI产品推向市场而不计后果”的鲁莽企业文化,无法有效察觉和治理AI系统的潜在风险,还用剥夺吹哨人前员工股权等强硬手段阻止他们表达对AI技术的担忧。签字公开信的OpenAI现任员工全部选择匿名,就是因为担心被打击报复。

OpenAI则发布声明称,为公司能提供最强大、最安全人工智能系统的历史成就感到自豪,并相信其内部应对风险的科学方法,“我们同意,鉴于这项技术的重要性,严谨的辩论至关重要,我们将继续与世界各地政府、民间社会和其他社区进行接触。”

公开信的签署者之一、今年4月从OpenAI人工智能治理岗位离职的Daniel Kokotajlo指出,辞职是因为“对OpenAI能否负责任地行事失去了信心”。他称OpenAI的人工智能系统已经接近人类智能水平,通用人工智能AGI有50%的可能性在2027年就会问世,而不是此前预测的2050年:

“世界还没有准备好(迎接如此高级的AI智能),我们也没有准备好,我担心(这些商业公司)将不管不顾地一意孤行,并为自己的行为寻找借口。先进的人工智能毁灭人类或对人类造成灾难性伤害的可能性高达70%。”

他称,尽管OpenAI已与微软联合开展“部署安全委员会”等安全协议,旨在公开发布新AI模型之前进行重大风险审查,但并没有因此减慢新产品的发布速度。与投入更多时间和资源用来防范人工智能潜在风险相比,OpenAI仍在急于改进模型并进行商业化推广。

微软甚至两年前在印度悄悄测试Bing搜索引擎包含未发布GPT-4的新版本,引发了一些搜索引擎对用户行为异常的报告。OpenAI原本不知道最先进大语言模型被投入测试,知道后也没有阻止微软更广泛地推出该产品。不过,OpenAI发言人对上述说法提出异议。

OpenAI上周表示,已开始训练一种新的旗舰人工智能模型,并正在组建一个由CEO奥特曼牵头的新版安全委员会,以探索与新模型和其他未来技术相关的风险。奥特曼称不知道存在“强迫离职员工签署禁止诽谤公司的协议条款”,并称已废除这种做法,也不会影响员工的既得股权。

华尔街见闻曾援引报道称,自去年11月奥特曼被董事会罢免CEO、几天后又重返OpenAI以来,他在公司内部的主要对手已纷纷辞职或被迫离开:

据知情人士透露,奥特曼正在推动董事会对OpenAI现有的非营利组织架构进行全面改革,以避免与公司正在构建的数十亿美元收入业务产生冲突,甚至考虑把OpenAI转型为一家营利性公司。

本文来自华尔街见闻,欢迎下载APP查看更多

免责声明:本站转载的文章,版权归原作者所有;旨在传递信息,不代表本站的观点和立场。
上一篇 2024-06-06 下午9:12
下一篇 2024-06-06

相关推荐

  • 人工智能加速“理解”物理世界,多项全球领先成果亮相!

    6月14日,第六届“北京智源大会”在位于海淀区的中关村展示中心开幕。全球首个低碳单体稠密万亿语言模型Tele-FLM-1T,全球领先真机实验成功率突破95%的泛化抓取技术ASGrasp,能反思、可随机应变的铰接物体操作大模型系统SAGE、全球首个智能心脏超声机器人、全球首个实时孪生心脏计算模型……作为北京专注于人工智能的新型研发机构,智源研究院在语言、多模态…

    1小时前
    0
  • 高质量发展调研行|抓住新质生产力这把“金钥匙”

    仲夏六月,辽沈大地生机盎然。跟随“高质量发展调研行”采访团行走在企业展厅、工厂车间,我们不断体验着新质生产力的澎湃动力,感受着东北全面振兴的强劲脉动。 在沈鼓集团转子车间,工人们熟练操作数控机床,加工精密零件,电子屏幕上实时滚动着每条生产线的各种数据;在华晨宝马汽车有限公司铁西工厂车身车间,机械臂灵活翻转、精准定位,自动完成组装、焊接、检测任务……工厂“傻大…

    2小时前
    0
  • 《中国船级社数字空间数据交换规则》正式发布

    近年来,数字经济快速发展,正在成为重组全球要素资源、重塑全球经济结构、改变全球竞争格局的关键力量。在船舶行业,产业链各方正加大数字化转型步伐,智能制造、智能船舶、智能装备、智能航运等不断加速发展。数据作为数字化转型的关键要素,成为数字化转型的重要抓手。 中国船级社为服务船舶行业数据要素流通与治理、数据存储、数据交换共享及提供数字化解决方案,正在建设中国船级社…

    2小时前
    0
  • 人工智能结局

    1、人工智能产业自1956年夏天在达特茅斯会议上诞生以来,经历了三次浪潮。第一次浪潮中,人们惊呼“人工智能来了”、“机器十年后将超越人类”,并相继发明了第一个感知神经网络软件、证明了数学定理。 2、第二次,随着80年代Hopfield神经网络、BT训练算法的提出,语音识别、语音翻译方案以及日本提出的第五代计算机的出现,但由于未能真正走入人们的日常生活,前两次…

    3小时前
    0
  • AIGC创作者喊话周鸿祎:公开道歉,索赔1元

    6月8日,AIGC(生成式人工智能)创作者DynamicWang在社交平台发文,控诉360在AI新品发布会上盗用了其模型生成的原图。一石激起千层浪,网络上对360的质疑声此起彼伏。据DynamicWang公开披露的进展,360 AI浏览器产品经理梁志辉方面已联系到他并道歉,但一直未提供具体的赔偿方案。 6月11日晚,身处漩涡中心的梁志辉开始主动“出击”,发文…

    22小时前
    0