关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者2025-10-28 00:00:0179人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

半个娱乐圈为肖战包场,《得闲谨制》票房走俏,侯鸿亮鞠躬致谢

娱乐圈笔娱君 浏览 24 12-05

特朗普被指默许以军袭击 美国和阿拉伯国家关系或生变

看看新闻Knews 浏览 450 09-11

小学女班主任指使学生扇学生耳光被解聘 丈夫发声

大风新闻 浏览 3303 07-15

截至7月底我国充电基础设施数量达1669.6万个,是“十三五”末的10倍

财闻 浏览 266 08-26

张柏芝仅用一招就让自己口碑暴增?

娱乐圈笔娱君 浏览 83 10-29

“卖身”之后,赛百味按下中国快进键

虎嗅APP 浏览 310 08-20

刘礼嘉今日离开球队,将以14人前往沙特,难道周琦要缺席亚洲杯?

篮球资讯达人 浏览 6291 07-30

郭磊:三季度经济数据——哪些线索需要关注

首席经济学家论坛 浏览 89 10-22

申花2战不胜!媒体人:别再奢望夺冠,足协自我削弱,亚冠无期待

奥拜尔 浏览 145 10-02

拟不超过30%入股华望 广汽埃安与华为“再续前缘”

财联社 浏览 287 08-12

遭枪杀工人女儿:他本打算不干了 出事后钱包仅剩2元

大象新闻 浏览 8713 08-09

女子跳河轻生 五旬卡车司机从18米高桥上纵身一跃救人

极目新闻 浏览 191 09-09

冬天要有的鞋子!显高!显腿长!还显瘦!

Yuki女人故事 浏览 43 11-11

定位大型SUV 腾势N8L无伪装实车图曝光

车质网 浏览 1710 07-14

天岳先进在港交所上市,创始人是“济南前首富”

红星资本局 浏览 260 08-21

假期国内机票预订量已超1019万张 热门目的地出炉

环球网资讯 浏览 152 09-29

广东惜败巴西!杨溢王浩然大爆发,王少杰顶内线,徐昕杜锋争执!

篮球资讯达人 浏览 4537 07-29

她是港圈“百亿千金”,坐拥20多栋豪宅

背包旅行 浏览 8842 07-12

曾押中马云的他,再次豪赌

创业家 浏览 83 10-21

亲历茅台打假办鉴酒翻车,线上的飞天还敢买吗?

虎嗅APP 浏览 11 12-11

超震撼 8K画面感受中国战机的力与美

北青网-北京青年报 浏览 164 09-19
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-11