关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者2025-10-28 00:00:01242人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

德云社内部开撕后续!秦霄贤前女友爆料

章幃户外 浏览 2730 08-07

马伊琍意外翻车,竟险些重蹈朱丹覆辙!

跳跳历史 浏览 5673 07-12

卖冰给老外,他年入14亿

快刀财经 浏览 4394 07-18

阿里巴巴集团业务调整,原有六大业务集团“缩编”成四大板块

红星资本局 浏览 427 08-25

YouTube同意赔偿特朗普2450万美元

参考消息 浏览 306 09-30

特朗普施压日本要求对华加税 日本明确拒绝理由很给力

博览历史 浏览 410 09-18

2025年延迟退休后,70后缴够15年,能正常退休吗?

数字财经智库 浏览 448 08-23

英超9月赛程:9月14日曼市德比,9月20日红魔战蓝军、枪手对蓝月

直播吧 浏览 4399 07-24

外卖补贴大战刺激骑手收入提升,平台公布数据7月周末骑手日收入增长111%

封面新闻 浏览 1906 07-13

泡泡玛特电话会:今年营收300亿也很轻松,产能面临较大挑战

华尔街见闻官方 浏览 453 08-20

干得漂亮!多国反击,特朗普阴谋破产脸色铁青

浏览 10328 07-14

特斯拉车顶维权女子败诉 曾致特斯拉损失1.7亿元订单

极目新闻 浏览 7406 07-12

奖金1.5万元,破赛事新纪录,张水华拿下2026年第一个冠军

数字财经智库 浏览 199 01-02

其子尚未建立自己的权威 洪森被指愿意进一步升级冲突

澎湃新闻 浏览 10535 07-26

一张包装纸和一枚硬币背后的“AI加速度”

文汇报 浏览 5134 07-16

美国脱口秀主持人讽刺特朗普:他演都不演了

环球网资讯 浏览 207 01-07

13.98万起!海狮06上市,车圈的超级“经济实用男”?

电车通 浏览 10416 07-25

《新闻女王2》首播爆开!开局高能剧情紧凑,黄宗泽演技拖后腿

萌神木木 浏览 199 11-06

二次元“入侵”金饰,“痛金”带火黄金“谷子”

猛犸资本局 浏览 7396 08-10

22个州经济正在萎缩,消费者信心持续下跌,多家机构警告美国经济衰退

环球网资讯 浏览 270 10-13

2026春夏八大流行趋势,早穿早美!

Yuki女人故事 浏览 176 02-04
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-11