关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者48人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

扣押搜查24处军事场所 尹锡悦涉嫌外患罪被调查

财联社 浏览 70

大S离世6个月后,3件事暴露汪小菲“假深情”

林轻吟 浏览 87

夫妻自驾从安徽送儿子去新疆上大学:辛苦但快乐

潇湘晨报 浏览 75

张彬彬人笨又勤快,帮毛晓彤提裙子差点让她走光

石场阿鑫 浏览 22

天空体育:苏超流浪者与海港主帅穆斯卡特谈判已进入最后阶段

懂球帝 浏览 66

运-20运输机再赴韩国接志愿军烈士遗骸回家

环球网资讯 浏览 88

吉利银河星耀6全球上市 限时置换价6.88万起

网易汽车 浏览 44

队记:谢泼德肢体语言很糟糕 不想打球还不如早点换他下去

直播吧 浏览 184

2.7亿买下“徐翔家族”实控的宁波中百1888万股,拍卖刚结束股价就闪崩

红星资本局 浏览 48

龙鑫智能一家三口持股六成,高管学历偏低, 2024年增收反降利

权衡财经 浏览 88

日产天籁PLUS,加长14毫米,合资家轿还有没有市场?

正在说车 浏览 72

许绍雄患癌仍敬业!今年参演9部作品努力宣传剧集

萌神木木 浏览 1920

泰诺麦博实控人上市前股转套现,砸2400万推广仅换来17万营收

市值Observation 浏览 71

马丁·厄德高:阿森纳英超近失球经历是“动力”

绿茵情报局 浏览 19

侯同波被通报:多次向某领导特定关系人赠送名包、红酒

扬子晚报 浏览 80

癌症晚期男子驾车撞死婆孙2人后病亡 法院判赔超200万

台州交通广播 浏览 18

上游观察|电商入局线下折扣超市,能否改写零售行业竞争格局

上游新闻 浏览 92

杨紫再让观众刮目相看,打破宋丹丹当年“忠告”

佳佳优选家居 浏览 425

乌克兰空军:一架苏-27战机在该国东部坠毁 飞行员死亡

环球网资讯 浏览 19

会打扮的中年女人,穿衣都有这4个共同点,难怪优雅又气质

静儿时尚达人 浏览 146

AI时代,重做ERP

钛媒体APP 浏览 73
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-12