关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者2025-10-28 00:00:01310人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

塞尔:巴萨认为特狮会为世界杯离队,但他们需要支付补偿金

懂球帝 浏览 1650 07-15

ESPN:因内马尔的身体状况和高额薪资,桑托斯不急于和他续约

懂球帝 浏览 354 10-17

英媒:面对美国 欧洲领导人"必须学会反击"

环球网资讯 浏览 269 12-11

王晶再曝港圈秘事:谢霆锋张柏芝真“合不来”

往史过眼云烟 浏览 524 08-19

连蜜雪冰城柠檬水都断货了?柠檬自由真的要没了吗?

江瀚视野 浏览 439 09-20

预算10万左右想买车,建议选这三款

鸭梨说车 浏览 512 05-10

特朗普提名的美联储理事和主席热门人选布拉德力挺降息,称关税不导致通胀

华尔街见闻官方 浏览 2683 08-13

安布:拉比奥需要承担更多进攻责任;米兰本赛季有机会夺冠

懂球帝 浏览 294 01-07

那英情路太坎坷!前任孕期劈腿,现任老公二度出轨,娇妻脑要不得

萌神木木 浏览 429 09-11

OPPO 刘浩然:一加 15 远比想象好看,是自己最近几年最爱的设计

IT之家 浏览 561 08-12

北京:大兴机场巴士环球影城快线正式开通运行

北青网-北京青年报 浏览 491 09-02

文汇视讯 | “我要打十个!”世界人工智能大会现场上演“机器人拳击大赛”

文汇报 浏览 3819 07-27

虞书欣近况曝光!充钱偷看事业占卜被发现,火速摘灯牌隐身

萌神木木 浏览 369 10-13

餐饮增量新战场,不在北上广

餐饮老板内参 浏览 2104 08-10

比亚迪海洋网在河南再添两款新车型!

大象新闻 浏览 8597 07-14

队报:多支英超球队有意李刚仁,但巴黎留住他的态度十分坚决

懂球帝 浏览 564 08-22

德约选出心中的温网冠军,预测会和法网决赛一样火星四射

网球之家 浏览 6684 07-13

瓜罗:28岁费内巴切中场阿姆拉巴特被推荐给了国米

直播吧 浏览 582 08-21

东契奇狂砍39分 创欧锦赛1/4决赛历史球员单场得分纪录

直播吧 浏览 357 09-11

或成新公路之王! 极氪8X预售37.68万起

网易汽车 浏览 221 03-17

“长+短”穿法今年冬天又火了!照着穿时髦又显高

LinkFashion 浏览 222 12-16
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-11