免费阅读
返回
菜单
上一章查看最新章节下一章

第686章 纯注意力机制?你们竟敢这么想

作品:高二分科,我选校花也选亿万身家作者:黑狗不爱吃汤圆
如果本章错误,请点击报错10秒纠正

个人正对着一张打印出来的论文激烈讨论。

一个戴眼镜的年轻人从工位上站起来,朝他们走过来。

“林博士,赵博士?”他伸出手。“任少卿。论文你们应该看过了。”

林之远握上去。这只手的主人,就是那篇让全球AI界炸锅的论文的第一作者。

比他想象中年轻得多,看着也就二十五六岁。

“看过了。复现过了。数据完全对得上。”

任少卿笑了一下:“那就好。省得我还要解释为什么152层能训练。”

楼梯口传来脚步声。一个身材偏瘦、穿着黑色连帽衫的男人走下来,手里端着一杯咖啡,眼睛下面有明显的黑眼圈。

“楼天城。”任少卿介绍道。“我们的系统架构负责人。昨晚应该又通宵了。”

楼天城点了点头,看了一眼林之远的胸牌:

“看资料,你在斯坦福做的是推荐算法方向?”

“对。博士论文写的是用深度学习做推荐系统。”

“那正好。”楼天城喝了口咖啡。

“我们现在在做一个东西,需要你这个方向的人。”

他转身走向白板,拿起马克笔,刷刷刷写了一串公式。

林之远凑过去看。

那是一个注意力权重的数学表达式。

所谓“注意力机制”,通俗地说,就是让AI在处理一段信息时,能像人类阅读一样,自动把目光聚焦在最重要的部分,而不是平均分配精力。

但这个公式和他在论文里见过的不一样。

传统的注意力机制,是让AI在翻译时“回头看”原文。

比如翻译一句英文时,每写一个中文词,都回头看看英文原句里哪个词最相关。

而白板上这个公式,做的事情完全不同:它让一句话里的每个词,都去“看”这句话里的其他所有词。

不是回头看别人,是自己看自己。

“你们在做……序列内部的自相关计算?”

林之远的声音不自觉地提高了。

任少卿和楼天城对视了一眼。

“差不多。”任少卿说。

“我们在探索一种全新的方式来让AI理解语言。不依赖传统的循环结构。就是那种必须一个词一个词按顺序处理的老方法,而是完全用注意力机制,让所有词同时互相‘看见’彼此。”

林之远的脑子嗡了一下。

不依赖

…。。
   本章没完,请点击下—页继续阅读!如果被转码了请退出转码或者更换浏揽器即可。
  温馨提示:亲爱的读者,如果你觉得本站还好,为了避免丢失和转马,请勿依赖搜索访问,建议你使用[华为刘揽器]或[Firefox火狐刘揽器]访问并收蔵【二零小说】 m.20012001.net。我们将会持续为你更新,还建议你注册会员使用书架功能追书阅读更方便。
上一页 12345下一页
上一章查看最新章节下一章
临时书架加入书签回顶部↑

看了《高二分科,我选校花也选亿万身家》的书友还喜欢看

开局丹田被废,我靠炼丹杀疯了
作者:码字养猫
简介: 丹圣顾渊,因丹炉爆炸陨落,重生为天玄大陆臭名昭著的纨绔少爷。丹田被废,家族倾颓,强敌...
更新时间:2026-03-04 20:00:00
最新章节:第1155章 遭遇
我的心动老板娘
作者:火烧风
简介: 和穷人谈钱,和富人谈感情,不信邪的我被践踏的遍体鳞伤...直到老板娘出现,我才发现我...
更新时间:2026-03-04 21:05:00
最新章节:第一千五百四十七章 意外
超魔术士:开局魔网又崩了
作者:幼稚的空想家
简介: 【DND】【费伦】【超魔法】【冒险】安瑟意外穿越托瑞尔,魔法女神又双叒叕出事了!
更新时间:2026-03-04 21:14:00
最新章节:第417章 你的灵魂灿如星河
喀什的云朵
作者:乱世TICH
简介: 一场追逐诗和远方的

“逃离”,却让陈风邂逅了生命中最美丽的...
更新时间:2026-03-04 20:36:01
最新章节:第一百三十章 红色玫瑰
屠狗之辈
作者:关中老人
简介: 仗义每多屠狗辈,无情多是读书人。这是一个叫赵山河的小人物从小镇走向世界的故事……
更新时间:2026-03-04 21:36:48
最新章节:第681章 思念最伤人
小说世界的路人重生了
作者:Loeva
简介: 在这个小说世界里薛绿只是不起眼的路人每日旁观着主角们的爱恨情仇有一天,世界崩溃重来路...
更新时间:2026-03-04 21:00:00
最新章节:第三百一十一章 新发现
书名:

本站若有图片广告属于第三方接入,非本站所为,广告内容与本站无关,不代表本站立场,请谨慎阅读。

Copyright © 2020 二零小说 All Rights Reserved.kk

SiteMap