免费阅读
返回
菜单
上一章查看最新章节下一章

第二百八十五章 喵~

作品:首富从看见信息面板开始作者:路大头
如果本章错误,请点击报错10秒纠正

培养的,可我们需要某个职业能力时,要的是专才,比如编程、法律、设计等等。”

韩路一点点头。

这确实是个问题,也是源智应用方面正面临的挑战——汤圆在国家电网落地,需要的正是电力方面的专才。

“这个方向确实比较前沿,不过学术界和工业界已有一些探索。”韩路一说,“现在比较流行RAG(Retrieval-Augmented Generation,检索增强生成)技术:把模型里没有的相关资料放进数据库,提前做好索引;查询进来时,先在专用数据库里搜出相关内容,再连同问题一起送给大模型,让它据此生成答案。”

通过限定数据来源范围,并在提示词中严格限制只能依据给定来源生成回答,就能以最低成本,在一定程度上把通用大模型变成领域专家。

“但这其实是对模型能力不到位的一种妥协。”韩路一接着说,“用户会问什么没法预测,语义理解不到位就检索不到相关信息,最后答案就不准确。这就像让一个没学过这门课的人开卷考试:你提问时,他得现翻答案;翻到了,答得就好;翻不到,就别指望他能给出什么好答案。”

韩路一讲得清晰到位,姜亦心和苏念念都听懂了。

确实,从这个方向看,问题还是没解决。

姜亦心翻过一页资料:“还有下一个问题。”

屏幕上写着这一节的标题:【长时记忆】。

“现在汤圆很强,但它的工作是响应式的。”姜亦心说,“我问一个问题,它答一个;我追问下一个,它再答下一个。等问题多到超出上下文窗口,整个对话就没法用了,只能开下一个问题,一切从头开始。我们做御风时特意优化过这个问题,做成长助手时又遇到了同样的问题。”

这确实是一线应用开发才会遇到的痛点。

韩路一回头看了看苏念念。她最近做经营管理较多,脱离产品一线有一段时间了。

韩路一怕苏念念听不懂,停下来解释了几句——当然,他是对着姜亦心说的,只让苏总顺便听一下。

“大模型生成时,会把所有上下文放进模型里跑一遍,再得出答案。所以上下文给得越多,占用内存越多;这个量有个极限,就是上下文窗口。”韩路一说,“汤圆现在的上下文窗口是二十万个词元,不算小,日常问答够用,放到工程里就捉襟见肘了。”

“超出上下文窗口后,大模型还能继续工作,但它会默默忘掉用户最开始说的话,

…。。
   本章没完,请点击下—页继续阅读!如果被转码了请退出转码或者更换浏揽器即可。
  温馨提示:亲爱的读者,如果你觉得本站还好,为了避免丢失和转马,请勿依赖搜索访问,建议你使用[华为刘揽器]或[Firefox火狐刘揽器]访问并收蔵【二零小说】 m.20012001.net。我们将会持续为你更新,还建议你注册会员使用书架功能追书阅读更方便。
上一页 23456下一页
上一章查看最新章节下一章
临时书架加入书签回顶部↑

看了《首富从看见信息面板开始》的书友还喜欢看

错把刘宏当爹,他送貂蝉做我老婆
作者:吾名张飞
简介: 【何蔡貂乔甄,吕甘糜邹陈】\n【不虐,不漏】\n刘必意外穿越到东汉末年的洛阳,获得了...
更新时间:2026-10-26 21:28:42
最新章节:第455章 要不,我去找刘辟谈谈?
开局自曝系统,父皇举国助我娶妻
作者:卿柒
简介: 开局自曝万嗣呈祥,娶妻生子都会得到奖励!于是,皇帝老爹为赵辰安疯狂赐婚!
<...
更新时间:2026-10-26 20:33:07
最新章节:第495章 封印九成修复,域外却早已被布满棋子
天堂刽子手
作者:惊悚541
简介: 上帝睡了片刻,醒来见人间遍地满了强暴。就呼唤死神来到祂的宝座前。

...
更新时间:2026-10-26 21:27:00
最新章节:第157章 全面反攻
我一杂役,怎么成掌门孩子他爹了?
作者:三月雨
简介: 叶长天在路边摊买了一本阴阳造化诀,意外穿越成为太玄宗的一名杂役弟子。
更新时间:2026-10-26 21:32:22
最新章节:第355章 献祭洛青衣,开启洛族祖地封印!
方寸道主
作者:愤怒的乌贼
简介: 这世界,有帝王一言而为天下法,有兵仙一剑可当百万师,有儒圣一卷春秋定纲常,有道尊一指...
更新时间:2026-10-26 21:27:00
最新章节:第405章 天生降圣人
九鼎
作者:上汤豆苗
简介: 皇朝末年,风起云涌。徐野穿越而至,父母双亡孑然一身,只剩一座富贵却无权势庇佑的侯府,...
更新时间:2026-10-26 21:32:00
最新章节:099【公道】
书名:

本站若有图片广告属于第三方接入,非本站所为,广告内容与本站无关,不代表本站立场,请谨慎阅读。

Copyright © 2020 二零小说 All Rights Reserved.kk

SiteMap