关闭广告

苏州大学突破:新型注意力机制赋能AI语境适应性对话

科技行者2026-01-28 00:00:01272人阅读


这项由苏州大学联合百度公司进行的前沿研究发表于2026年1月24日,论文编号为arXiv:2601.17367v1,为大型语言模型的效率优化领域带来了重要突破。想了解完整技术细节的读者可以通过该论文编号查询原文。

当我们人类处理信息时,会根据任务的重要性自动调整注意力的强度。比如在嘈杂的咖啡厅里聊天时,我们会专注倾听对方说话而忽略周围噪音;但在安静的图书馆里阅读时,我们的注意力可以相对放松地浏览文字。然而,目前的AI大脑——也就是大型语言模型——却像一个"死脑筋"的学生,无论面对什么任务都用同样的专注程度,这就造成了巨大的计算资源浪费。

苏州大学的研究团队发现了一个有趣的现象:不同类型的任务对AI注意力的要求其实大不相同。有些任务就像做选择题,只需要粗略理解大意就能完成,比如文档摘要;而有些任务则像解数学证明题,需要精确捕捉每个细节,比如问答任务。基于这个洞察,他们开发出了一种名为"弹性注意力"的革命性技术,让AI能够像人类一样根据任务需求智能调节注意力强度。

这项技术的核心在于一个被称为"注意力路由器"的巧妙机制。这个路由器就像一个聪明的交通指挥官,能够实时

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

AMD Q1营收超预期增长38%,数据中心业务大增57%,二季度指引超预期

华尔街见闻官方 浏览 103 05-06

区块链记账、AI自动做实验?复旦 “星河启智” 平台破解科研痛点

文汇报 浏览 6329 07-27

将于北京车展首发 奕境旗下首款量产车路试谍照曝光

网易汽车 浏览 294 01-19

黄奕带娃闯韩娱续集来了:一手好牌打稀烂

每日一见 浏览 527 08-19

上市券商分红热情高!22家连续两年中期分红

券商中国 浏览 437 09-01

美团外卖大战战报:即时零售日订单超1.5亿,高频骑手月收入达9793元

红星资本局 浏览 9873 07-13

欧盟考虑强制中企转让技术 彭博社:可能引发强烈反弹

环球网资讯 浏览 403 10-16

银行“反内卷”:寻找“不可能三角”最优解

21金融圈 浏览 466 08-23

2025款奥迪Q5L裸车只要22万多?这真能买到吗,它选哪个版本好?

蜗牛车志V 浏览 515 08-19

降价!美媒:世俱杯决赛最低票价降至250美元,皇马被淘汰有影响

直播吧 浏览 5756 07-13

英特尔与谷歌围绕至强CPU与定制IPU深化双方多年合作

IT之家 浏览 189 04-10

俄罗斯暂停驻伊朗领事工作 宣布从伊朗撤侨

参考消息 浏览 5901 06-17

2025股王诞生!“国产芯王”,冲击茅台

说财猫 浏览 500 08-23

2025公益热度排名:肖战压过王一博登顶公益榜

未曾青梅 浏览 287 01-15

印美关税争端持续 莫迪将缺席在美举行联大一般性辩论

环球网资讯 浏览 460 09-07

抛开雷军的光环,理性分析小米YU7的性价比

DearAuto 浏览 8056 06-30

四川巴中发布川超招募令,球队冠名为巴中南江黄羊队

懂球帝 浏览 4744 08-09

WPS Windows系统64位新版本上线:PDF翻页提速27%

网易科技报道 浏览 470 08-23

英超官方解释点球:裁判认为霍尔手臂抬起,不合理地扩大防守面积

直播吧 浏览 492 08-25

以色列对胡塞开展投弹量最大一次空袭

环球网资讯 浏览 398 09-27

快讯|Game Jam·Unity中国开发挑战赛知乎特别场开启

网易科技报道 浏览 470 08-19
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-11