人工智能模型近亲繁殖引发警示

   新一代人工智能引发了研究人员的担忧,但科技界似乎对此无动于衷(AI生成图像)...

  近亲繁殖、胡言乱语还是疯狂?关于AI模型的警告声不断升级

新一代人工智能引发了研究人员的担忧,但科技界似乎对此无动于衷(AI生成图像)

去年,学者贾森·萨多夫斯基(Jathan Sadowski)用一个比喻来描述人工智能程序的衰退,他创造了“哈布斯堡人工智能”(Habsburg AI)这个词。

哈布斯堡家族曾是欧洲最显赫的王室之一,但由于几个世纪的近亲繁殖,他们的血统最终走向了衰败。

近期的研究显示,支持ChatGPT等产品的人工智能程序在反复使用自己的数据时,也会经历类似的崩溃。

萨多夫斯基在接受法新社采访时表示:“我认为‘哈布斯堡人工智能’这个词已经非常贴切了。”他补充说,这个词“将越来越能反映我们对人工智能系统的看法”。

最终的担忧是,人工智能生成的内容可能会淹没网络,使得聊天机器人和图像生成器变得无用,并使一个价值数万亿美元的产业陷入混乱。

然而,其他专家认为这个问题被夸大了,或者是可以解决的。

许多公司热衷于使用所谓的合成数据来训练人工智能程序。这种人工生成的数据用于增强或替代真实数据。它比人工制作的内容更便宜,但也更容易预测。

澳大利亚莫纳什大学(Monash University)的新兴技术讲师萨多夫斯基表示:“对于构建人工智能系统的研究人员和公司来说,一个悬而未决的问题是,多少合成数据才算太多。”

- “疯牛病” -

训练人工智能程序,在业界被称为大型语言模型(LLM),涉及从互联网上抓取大量文本或图像。

这些信息被分解成数万亿个机器可读的小块,称为令牌。

当被问及一个问题时,像ChatGPT这样的程序会选择并组装令牌,以符合其训练数据中最可能的序列。

但即使是最先进的人工智能工具也会产生谎言和胡言乱语,批评者长期以来一直担心,如果一个模型依赖自己的输出会发生什么。

7月下旬,《自然》(Nature)杂志上发表的一篇题为《人工智能模型在接受递归生成的数据训练时崩溃》的论文引发了广泛讨论。

作者描述了模型如何迅速丢弃原始数据集中的稀有元素,输出结果退化为“胡言乱语”。

一周后,莱斯大学和斯坦福大学的研究人员发表了一篇题为“自我消费生成模型发疯”的论文,得出了类似的结论。

他们测试了生成图像的人工智能程序,并表明,当他们将人工智能生成的数据添加到底层模型时,输出变得更加通用,并且充斥着不受欢迎的元素。

他们将这种模型崩溃称为“模型自噬紊乱”(MAD),并将其与疯牛病进行比较。疯牛病是一种致命的疾病,是由将死牛的残留物喂给其他牛而引起的。

- “末日场景” -

这些研究人员担心,人工智能生成的文本、图像和视频正在清除网络上可用的人造数据。

莱斯大学研究报告的作者之一理查德·巴拉尼克在一份声明中说:“如果几代人都不受控制,MAD可能会毒害整个互联网的数据质量和多样性,这是一个世界末日。”

然而,业内人士并不担心。

Anthropic和Hug Face是该领域的两大领导者,他们以对技术采取道德方法而自豪,他们都告诉法新社,他们使用人工智能生成的数据来微调或过滤他们的数据集。

Hug Face公司的机器学习工程师安东·洛日科夫说,《自然》杂志的论文提供了一个有趣的理论视角,但其灾难场景并不现实。

他说:“在现实中,用多轮合成数据进行训练是不可能的。”

然而,他说,研究人员和其他人一样,对互联网的现状感到沮丧。

“互联网上有很大一部分是垃圾,”他说,并补充说,Hug Face公司已经在清理数据方面做出了巨大努力,有时会丢弃多达90%的数据。

他希望网络用户能够通过简单地不参与生成内容来帮助清理互联网。

促销听最新的歌曲,只有在JioSaavn.com

他说:“我坚信,人类将比模型更早看到这些影响,并捕捉到生成的数据。”

本文来自作者[svs]投稿,不代表立场,如若转载,请注明出处:http://wengdou.cn/post/2659.html

(89)

文章推荐

  • 二十万SUV购买指南:哪款车最适合您?

      二十万suv买什么车最好  在如今汽车市场上,SUV车型一直备受消费者青睐。而对于有着二十万预算的消费者来说,选择一款性价比高、品质可靠的SUV车型显得尤为重要。那么,二十万suv买什么车最好呢?接下来,我们将为您介绍几款性价比较高的SUV车型,帮助您做出更明智的选择。(图片来源网络,侵删)

    2024年09月07日
    580
  • 白雪公主如何在曼达洛人的世界中重塑自我?

    这部极具创意的《星球大战》角色扮演将迪士尼公主白雪公主转变为曼达洛人,巧妙地将两个截然不同的迪士尼系列融合在一起。迪士尼收购《星球大战》引发了广泛的争议,许多《星球大战》的电影和电视节目都遭遇了严厉的批评和直接的拒绝,因为迪士尼是掌舵者。尽管如此,《曼达洛人》已被证明是《星球大战》中最优秀的电视剧之

    2024年09月29日
    699
  • 慢性非萎缩性胃炎什么意思 慢性非萎缩性胃炎的含义是什么?

    慢性非萎缩性胃炎什么意思  慢性非萎缩性胃炎是指一种胃黏膜的慢性炎症,通常不伴随胃黏膜的萎缩。它的主要特征是胃黏膜的炎症细胞浸润,可能由多种因素引起,包括幽门螺杆菌感染、长期饮酒、药物(如非甾体抗炎药)使用、以及饮食不当等。患者常常会感到上腹部不适、恶心、食欲减退等症状。虽然这种类型的胃炎通常不

    2024年11月02日
    164
  • 鸟人是什么意思 鸟人究竟指的是什么?

    鸟人是什么意思  “鸟人”这个词在不同的语境中有不同的含义。一般来说,**“鸟人”**可以指代那些热爱鸟类的人,尤其是鸟类观察者或鸟类爱好者。他们通常会花费大量时间在自然环境中观察和记录鸟类的行为、习性和栖息地。此外,在某些文化中,“鸟人”也可能指代一种超现实的形象,象征着自由和飞翔的梦想。近年

    2024年11月04日
    144
  • 小鹿犬多少钱一只 小鹿犬的价格是多少?

    小鹿犬多少钱一只  小鹿犬,又称为“迷你杜宾”,因其可爱的外形和温顺的性格而受到许多人的喜爱。那么,小鹿犬多少钱一只呢?一般来说,小鹿犬的价格在3000元到8000元不等,具体价格会受到多种因素的影响,包括犬只的血统、年龄、性别以及卖家的信誉等。纯种的小鹿犬通常价格较高,而混血或非纯种的小鹿犬价

    2024年11月05日
    91
  • 一马赫等于多少公里 一马赫相当于多少公里每小时

    一马赫等于多少公里?  一马赫(Mach1)是一个用于描述物体在气体中运动速度的单位,特别是在航空和航天领域。一马赫等于多少公里呢?在标准条件下(海平面,温度约为15摄氏度),一马赫的速度大约为1225公里每小时(km/h)。这个速度会随着气温和气压的变化而有所不同,因此在不同的环境条件下,马

    2024年11月10日
    105
  • 牛王扑克怎么联系客服 牛王扑克客服联系方式是什么?

    牛王扑克怎么联系客服  在使用牛王扑克的过程中,用户可能会遇到各种问题,这时联系客服是一个重要的解决途径。牛王扑克提供了多种联系客服的方式。首先,用户可以通过官方网站找到在线客服的入口,通常在页面的右下角会有一个聊天窗口,用户可以直接与客服人员进行实时沟通。其次,用户也可以拨打客服电话,在工作时

    2024年11月11日
    104
  • 手机炸金花有没有套路 手机炸金花有没有必胜的技巧?

    手机炸金花有没有套路  手机炸金花有没有套路?在这个游戏中,确实存在一些技巧和策略可以帮助玩家提高胜率。首先,观察对手的行为是关键。通过分析对手的下注模式和反应,可以推测他们的牌力。此外,合理管理自己的筹码也至关重要,避免在不利情况下过度下注。最后,心理战术同样重要,适时的虚张声势可以让对手产生

    2024年11月11日
    105
  • 印度经济增速放缓:2025财年第一季度GDP增长6.7%,不及去年同期的8.2%

      印度经济在2024年4月至6月期间增长了6.7%,低于上一财年同期的8.2%。这一增长率也低于上一季度的7.8%,显示出经济增速的放缓。财政部在一份声明中指出:“2024-25财年第一季度实际GDP增长率为6.7%,相比之下,2023-24财年第一季度为8.2%。”根据国家统计

    2024年11月13日
    99
  • 白宫与国会议员探讨将乌克兰与以色列援助挂钩的可能性

      华盛顿——据一名政府官员和两名亲乌克兰的共和党议员透露,拜登政府与国会领导人正在探讨将对以色列的援助与对乌克兰的资金支持挂钩的可能性,以期同时推动这两项关键支出。支持乌克兰的两党议员认为,尽管部分共和党人反对,但这种策略可能为基辅争取到所需的资金。

    2024年11月16日
    119

发表回复

本站作者后才能评论

评论列表(4条)

  • svs
    svs 2024年11月11日

    我是的签约作者“svs”!

  • svs
    svs 2024年11月11日

    希望本篇文章《人工智能模型近亲繁殖引发警示》能对你有所帮助!

  • svs
    svs 2024年11月11日

    本站[]内容主要涵盖:国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育

  • svs
    svs 2024年11月11日

    本文概览:   新一代人工智能引发了研究人员的担忧,但科技界似乎对此无动于衷(AI生成图像)...

    联系我们

    邮件:@sina.com

    工作时间:周一至周五,9:30-18:30,节假日休息

    关注我们