关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者2025-10-28 00:00:0178人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

巴列卡诺在欧协联附加赛的一个进球被VAR判有效,后来又改判无效

懂球帝 浏览 233 08-29

王艺迪1-3不敌桥本帆乃香,无缘WTT瑞典站女单八强

懂球帝 浏览 240 08-22

《财富》世界500强:130家中国公司上榜,华为重回前100

澎湃新闻 浏览 4248 07-30

宋小宝个人生活遭质疑,粉丝支持态度引讨论

潘鍵旅行浪子 浏览 5738 07-26

多地“好房子”陆续入市 带动房地产市场回暖

中国商报 浏览 889 07-30

美国女市长被指婚内与保镖偷情 面临18项罪名起诉

红星新闻 浏览 275 08-19

蒙特利尔站:郭涵煜0-2不敌2号种子斯瓦泰克,无缘32强

懂球帝 浏览 4995 07-31

理想总裁回应MEGA Home交付慢:曾因销量缩减产能,正努力提升

IT之家 浏览 1865 07-18

西贝菜品调改价 部分菜品降幅超20%

扬子晚报 浏览 178 10-01

超过上海,重庆冲成消费第一城

华商韬略 浏览 5552 08-13

破防!冲场球迷怒斥C罗:后悔花2999元看球,更后悔支持伪君子

念洲 浏览 233 08-23

手机显示VIP标识:河北联通与华为在张北草原音乐节“秀肌肉”

IT之家 浏览 6814 07-31

哈马斯高级领导人:准备撤出“黄线”以内武装人员

财联社 浏览 55 11-11

张艺兴跑外卖给聋人粉丝送演唱会门票,引质疑?

动物奇奇怪怪 浏览 2272 07-30

手游行业“腰部”重塑,柠檬微趣、Florere Game收入赶超米哈游

国际金融报 浏览 209 09-10

夏天穿衣有多种方式,这些穿搭让你收获搭配的灵感!舒适耐看

静儿时尚达人 浏览 1246 07-13

杨少华追悼会现场:长子神情凝重太憔悴,杨议跷二郎腿商议后事

萌神木木 浏览 919 07-11

理想i8碰撞测试相关方发布联合声明:理想向东风柳汽道歉

界面新闻 浏览 6667 08-07

“这条裙子”才是今年夏天的顶流!谁穿谁好看

LinkFashion 浏览 2482 07-15

00后女孩300元网售5盒药品被控贩毒 二审法院发回重审

澎湃新闻 浏览 9665 07-31

预计9月上市 享界S9T发布最新官图

车质网 浏览 8741 08-01
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-11