OpenAI内部人士抨击AI缺乏透明度

   在周二,OpenAI的多位现任及前任员工联合发布了一封公开信,指出该公司在人工智能领域缺乏必要的透明度和问责机制,无法有效应对技术带来的潜在风险。...

  

在周二,OpenAI的多位现任及前任员工联合发布了一封公开信,指出该公司在人工智能领域缺乏必要的透明度和问责机制,无法有效应对技术带来的潜在风险。

信中对人工智能的安全隐患表达了深切的担忧,指出“这可能会进一步加剧现有的不平等,导致信息操控和错误传播,甚至可能使人类面临灭绝的风险。”

其中包括一名来自谷歌深度思维(Google DeepMind)的员工在内的16位签署者警告称,人工智能公司“有强烈的经济动机来规避有效的监管”,而这些公司的自我监管并不能有效改善现状。

信中提到:“人工智能公司掌握着大量未公开的信息,包括其系统的能力与局限性、保护措施的有效性,以及不同类型伤害的风险程度。”

“然而,他们目前仅有微弱的义务与政府共享这些信息,而对公民社会则几乎没有分享。我们认为不能指望他们会自愿提供这些信息。”

信中还指出,这一现实意味着,只有公司内部的员工能够向公众发声,联署者呼吁制定更全面的举报人保护法律。

信中表示:“广泛的保密协议使我们无法表达我们的担忧,除了那些可能无法解决这些问题的公司。”

据《纽约时报》报道,OpenAI的四名现任员工匿名签署了这封信,因担心遭到公司的报复。

约书亚·本吉奥、杰弗里·辛顿和斯图尔特·罗素也参与了这份备忘录,他们被广泛称为人工智能的“教父”,并对人们对人工智能潜在危险的准备不足表示批评。

OpenAI在一份声明中对这些批评进行了反驳。

声明中称:“我们为提供最强大、最安全的人工智能系统的记录感到自豪,并相信我们在解决风险方面采取了科学的方法。”

“我们同意,考虑到这项技术的重要性,进行严格的辩论至关重要,我们将继续与全球的政府、民间社会及其他社区合作。”

OpenAI还表示,员工有“表达担忧的渠道,包括匿名的诚信热线”,并新成立了一个由董事会成员和高管领导的安全与保障委员会,首席执行官萨姆·奥特曼也在其中。

对OpenAI的批评最初是在《纽约时报》上发表的,与此同时,关于奥特曼对公司领导能力的质疑也在增加。

OpenAI推出了一系列新产品,但该公司坚称,这些产品只有在经过全面测试后才会向公众发布。

最近,一款人形聊天机器人的发布引发了争议,好莱坞明星斯嘉丽·约翰逊抱怨称,这款聊天机器人的声音与她的声音极为相似。

此前,她曾拒绝了奥特曼的邀请。

本文来自作者[svs]投稿,不代表立场,如若转载,请注明出处:http://wengdou.cn/post/9200.html

(104)

文章推荐

  • 刚果民主共和国将于周四迎来首批麻疹疫苗,非洲疾病预防控制中心发货

    非洲联盟卫生监督机构表示,首批麻疹疫苗将于周四抵达刚果民主共和国。非洲疾病控制和预防中心负责人JeanKaseya告诉法新社:“我们对第一批疫苗到达刚果民主共和国感到非常高兴。”他补充说,预计将有超过99,000剂疫苗。这个拥有约1亿人口的中非大国

    2024年11月01日
    478
  • 麻将是不是有挂6222的 麻将是否存在挂6222的情况?

    麻将是不是有挂6222的?  麻将游戏中,**“挂6222”**是指一种特定的牌型或玩法,通常被认为是某种作弊或不正当的手段。实际上,麻将的规则是相对固定的,任何形式的“挂”都可能会影响游戏的公平性。虽然在某些圈子里,可能会有人提到“挂6222”,但这并不代表它在正规麻将游戏中是被允许的。为了维

    2024年11月10日
    325
  • 《老友记》:40个你不知道的幕后秘闻

      1994年9月22日,一部名为《老友记》的电视剧在NBC首次亮相,彻底改变了美国情景喜剧的格局。这部剧不仅让六位主演——珍妮弗·安妮斯顿、柯特妮·考克斯、丽莎·库卓、马特·勒布朗、马修·佩里和大卫·施维默——成为家喻户晓的名字(最终成为电视史上片酬最高的演员之一),还催生了《心理牙线》的播出(稍

    2024年11月13日
    310
  • 马科民调显示:扎希确认国阵候选人将代表团结政府

      吉隆坡:副首相拿督斯里阿末扎希博士表示,联合政府参加柔佛州马哥打补选的候选人将来自国阵。阿末扎希,同时也是国阵主席和巫统主席,在周二(8月13日)的新闻发布会上表示,按照惯例,在补选中获得州或国会席位的政党将再次竞选。据马新社报道,阿末扎

    2024年12月01日
    216
  • 韩国计划增强对多胞胎家庭的扶持措施

    (123rf)韩国政府在周四发布的新提案中宣布,将为生育双胞胎及其他多胞胎的家庭提供更多的财政支持,包括更长的产假和产后护理服务。根据保健福利部的计划,针对多胞胎母亲的医疗费用补贴将从每名儿童140万韩元提升至100万韩元(约合790美元)。

    2024年12月03日
    171
  • 萨斯说,虚假的纳税申报单可能会招致处罚和刑事起诉"(真的有挂)-知乎

      南非税务局局长爱德华·基斯韦特(EdwardKieswetter)对最高上诉法院驳回KetsiseMotloung及ReathlehileDevelopmentCC的上诉表示赞赏。南非税务局(SARS)指出,此项裁决表明,提交虚假税务申报可能会面临行

    2024年12月04日
    240
  • 2022年网络星期一在好市多、亚马逊和戴尔最便宜的3台笔记本电脑,价格低于1000美元

      网络星期一终于到来了!今天,大家首先想到的就是笔记本电脑。我希望能找到性价比高、功能强大的笔记本。如果你也在寻找这样的产品,那么可以考虑三款售价低于1000美元的笔记本电脑。配备苹果M1芯片的MacBookAir在亚马逊的售

    2024年12月06日
    157
  • Nitin Gadkari和JSW的Sajjan Jindal讨论了电动汽车在Vidarbha的投资

      联邦部长NitinGadkari指出,Vidarbha地区亟需投资,原因在于缺乏愿意投入500亿至100亿卢比的投资者,导致该地区大型项目匮乏。在那格浦尔的一次公开活动中,加德卡里对该地区经济停滞表示担忧,他提到:“我们一直在寻找投资者,但主要投资者的缺乏是我们在维达尔巴

    2024年12月10日
    195
  • 62,000名学生参加中学入学考试

      周六,不少于6.2万名小学六年级学生参加了Kwara州16个地方政府地区公立初中的2024年普通入学考试。教育和人力资本发展专员HajiaSa'adatuModibbo-Kawu在伊洛林透露了这一点。莫迪博-卡乌和卫生部的

    2024年12月18日
    110
  • 一名柬埔寨女子被发现死于多处刺伤

      图片由KhaoSod提供在9月1日,一名年轻的柬埔寨女子被发现死于她的租房中,脖子上有多处刺伤,疑似遭到秘密崇拜者的残忍攻击。她的妹妹在下班回家时发现了这一可怕的场景,看到受害者躺在血泊之中。早上7点20分,PhatthanaNikhom警察局的调查员Sa

    2024年12月19日
    60

发表回复

本站作者后才能评论

评论列表(4条)

  • svs
    svs 2024年12月19日

    我是的签约作者“svs”!

  • svs
    svs 2024年12月19日

    希望本篇文章《OpenAI内部人士抨击AI缺乏透明度》能对你有所帮助!

  • svs
    svs 2024年12月19日

    本站[]内容主要涵盖:国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育

  • svs
    svs 2024年12月19日

    本文概览:   在周二,OpenAI的多位现任及前任员工联合发布了一封公开信,指出该公司在人工智能领域缺乏必要的透明度和问责机制,无法有效应对技术带来的潜在风险。...

    联系我们

    邮件:@sina.com

    工作时间:周一至周五,9:30-18:30,节假日休息

    关注我们