关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者2025-10-28 00:00:01314人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

王源宇宙超级无敌大狂欢在杭州开唱 双向奔赴的爱

娱乐达人 浏览 10312 07-13

采用六座布局 阿维塔旗舰SUV谍照首曝

车质网 浏览 199 04-08

男子包地千亩种玉米疑遇假种子 损失百余万索赔遇难题

大风新闻 浏览 543 09-26

她的发型又火了!年底做头发,不妨从这篇找找灵感

黎贝卡的异想世界 浏览 254 12-30

杨天真打不开自己特斯拉从后备箱爬进去 客服回应

极目新闻 浏览 301 10-29

桑德兰前锋伊西多尔:亨利发信息祝贺我,鼓励我继续前进

懂球帝 浏览 419 09-29

美国拟实施载人绕月飞行任务

北京商报 浏览 317 01-15

断联多年的丈夫身故 女子怀疑旁系亲属私签协议领遗体

大风新闻 浏览 439 09-13

记者:水晶宫引进莱斯特城前锋埃尔哈努斯的交易破裂

直播吧 浏览 510 08-27

媒体人:杨瀚森在老鹰的试训时间是他接触的所有球队中第二长的

直播吧 浏览 3227 08-09

美国超级富豪为抗衰与儿子换血 每天服用40粒抗衰药丸

中国新闻周刊 浏览 4327 08-09

太强了!“宁王”净赚722亿元,分红361亿元,曾毓群能分到多少?

数字财经智库 浏览 224 03-11

中戏否认闫学晶儿子读新疆班,曾参加全国统一考试,网传消息不实

扒虾侃娱 浏览 292 01-12

特朗普:若“特普会”顺利 将进行美俄乌三方会晤

国际在线 浏览 507 08-14

即将加盟洛杉矶FC!孙兴慜启程前往美国,他在机场为粉丝签名

直播吧 浏览 2230 08-06

英伟达怒花350亿,把英特尔打回了40年前。

差评XPIN 浏览 373 09-20

上海老人落水获救 4名老人花4天完成"不打扰"的致谢

大风新闻 浏览 384 11-08

记者:大可不必对刘诚宇如此苛求,他也必须要不断努力提升自己

直播吧 浏览 10303 07-24

如何选择儿童牙膏产品

人民网 浏览 8376 11-08

停车系餐饮,正在席卷餐饮市场

快刀财经 浏览 6866 07-27

三星首发2nm移动芯片:为拔头筹,不惜“开倒车”

雷科技 浏览 283 12-23
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-11