给出的答案常常驴唇不对马嘴,用户还不知道哪里出了问题。”
为了说明白,韩路一讲了个网上的段子。
“有人说,和大模型聊天时,可以在最开始加个要求,让它每次回答最后都加一个“喵”。等哪天它突然不带“喵”了,你就知道它已经超出上下文窗口,该换新聊天进程了。”
苏念念确实不知道这些,尤其最后那个段子,她轻轻点了点头。
“所以在汤圆的上下文窗口无限大之前,我们只能让它回答窗口撑得下的内容。”姜亦心总结道。
这总结很到位。
问题分析完,姜亦心终于翻到提案。
AI技能。
“这是什么?”韩路一问。
姜亦心想了想:“可以理解成一种可复用的行动脚本。”
她怕这解释太虚,又换了个说法。
“比如,我想要一个运营复盘技能。模型知道怎么写复盘,但每次都从头思考,像个很聪明却没受过公司培训的新人。AI技能就是把成熟员工的做法沉淀成一套固定动作:什么时候触发、先看哪些数据、怎么判断异常、怎么拉取用户反馈、最后输出什么格式,全都写清楚。”
“类似SOP(Standard Operating Procedure,标准操作步骤)啊。”苏念念说。
乍一看,这个概念和御风很像。
御风也把编程拆解成不同步骤,每一步由大模型规划和判断,再由御风工具在代码库里执行。
但韩路一和苏念念很快意识到,这是同一理念在不同场景下的应用。
AI技能是把一套提示词交给大模型,让它按提示词记录的方式行动,具体行动仍因时而异。
真像把技能做成插件,让大模型即插即用。
在大模型还做不到AGI时,这是通过工程方案突破模型能力限制的技术。
韩路一听了,点头认可。
当然,这只是大方向,真要落地,不知还有多少技术难关要攻克。
但至少这个方向听起来可行。
现在AI行业,模型层在卷,应用层在卷,模型与应用之间的工程层也在卷。
只有一直卷下去,才能卷出一条通往AGI的路。
韩路一拍了下手掌,做最后总结。
“想法不错,是个值得试的方向。这些应用层设计很大程度上依赖汤圆的能力:汤圆越强,应用就越强。”韩路一
…。。本站若有图片广告属于第三方接入,非本站所为,广告内容与本站无关,不代表本站立场,请谨慎阅读。
Copyright © 2020 二零小说 All Rights Reserved.kk