关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者2025-10-28 00:00:01308人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

外航飞机疑似险些降落在建跑道 知情人:机组人员认错道

极目新闻 浏览 7220 05-31

15年霸榜第一,固态电池龙头,宝刀未老!

飞鲸投研 浏览 393 09-22

尹锡悦再度被捕:10平米房间里"打地铺" 或面临死刑

新华社 浏览 10614 07-11

特朗普不解"为什么伊朗还不投降" 伊朗外长回应

CCTV4 浏览 223 02-24

美媒:特朗普政府将审查所有5500万持美签的外国人

环球时报国际 浏览 410 08-24

穆里尼奥明确回应重返皇马传闻:别把我算进这场肥皂剧里

懂球帝 浏览 306 01-19

40艘中国战舰将法国航母团团包围 原因只有一个

空天力量 浏览 9836 07-26

大爷写《我的母亲》作文火爆全网 网友:被深深打动

上游新闻 浏览 3593 07-13

四冠王!南外毕业生所在战队问鼎RoboMaster2025全国总冠军

现代快报 浏览 408 09-22

特朗普给全世界写了一封信 承诺结束战争但有两个条件

北回归线 浏览 509 09-16

自动驾驶行业变天了!英伟达下场,要做“Robotaxi的安卓”?

雷科技 浏览 328 10-29

黄晓明被向太盖章老好人?两瓶拉菲认干妈

新金牌娱乐观察家 浏览 71 05-28

特朗普威胁阿富汗"交还"空军基地:否则将有"坏事"发生

环球网资讯 浏览 502 09-21

印度刚宣布对巴基斯坦"战果" 议会就吵翻了

参考消息 浏览 6637 08-11

特朗普结束访英返美 途中因直升机故障改乘备用机

国际在线 浏览 413 09-19

女子游泳后瘦8斤患急性甲肝:呛了几口水 能感觉到异味

潇湘晨报 浏览 517 09-09

年入11亿,又一老字号要IPO

投资家 浏览 4290 07-12

小米大规模召回,是什么信号

虎嗅APP 浏览 345 09-21

媒体:34岁印度穆斯林后裔拿下纽约 令特朗普感到畏惧

南风窗 浏览 307 11-12

张帅/汤森德2-0击败对手,晋级WTA1000蒙特利尔站双打次轮

直播吧 浏览 5221 07-31

牛市中的“逆行者”:淳厚基金规模一年流失40%

一地基毛 浏览 114 05-09
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-11