天页面弹了出来。
页面中间写着“汤圆v0.2内测版”。
底下的对话框里有一行灰色的小字:“今天聊点什么?”
……
十三楼模型组,赵文渊没有独立办公室,和其他同事一样坐在开放办公区。
小牛把外卖的生椰拿铁给赵文渊拿过来时,他还盯着屏幕上的日志。
他工位旁如今固定加了一把转椅。他和源码科技模型组的其他员工都习惯了——韩路一最近每天都会花几个小时坐在这儿,跟他们一起写国产显卡的软件适配。
“文渊,怎么样了?”
韩路一的声音传来。
赵文渊闻声抬头,看见韩路一正走过来。
“韩总,你可来了,快坐。”赵文渊明显激动起来,“这两个算子我卡了半天,你快看看吧。”
这是两人最近形成的工作模式。
赵文渊带着手下用编程智能体做国产显卡适配。
每人分到一个算子,先设计一个通过基准——一般能达到N卡的百分之八十就算达标——再用智能体一轮一轮地试。成功率虽不高,效率却比手写高得多;试得多了,也有一些迁移效果不错。
碰上特别重要、特别难的,再汇报给赵文渊。
这种情况赵文渊一般也做不了什么,就等着韩路一来。
韩路一坐下后,认认真真从上到下看一遍,然后开始写,噼里啪啦输入一串提示词,关键参数和逻辑都写在里面,再回车,等五分钟。
难点就攻克了。
从最初的震惊、迷茫、怀疑世界,到如今,赵文渊已经适应了这种模式。
可能这个世界就是有天才吧。
有难题,找韩总。
我直接把韩总当随身老爷爷用不就完了?管他怎么做到的呢。
像现在,卡了全组两天的两个算子迁移,韩路一坐下十分钟就解决了。
第一个是RoPE。
这东西说白了,是让模型知道一段文本里每个词所在的位置。短文本里问题不明显,可上下文一旦拉长到十六K,显卡那边的三角函数近似误差就厉害起来。之前测试时,前八K还算正常,往后生成结果就会出现莫名其妙的错位。
赵文渊他们试了两天,一直在精度和性能之间来回拉扯:精度压下去,速度掉得厉害;速度提上来,误差又爆。
韩路一坐下后只看了一遍日志,就让智能体把sin/cos查
…。。本站若有图片广告属于第三方接入,非本站所为,广告内容与本站无关,不代表本站立场,请谨慎阅读。
Copyright © 2020 二零小说 All Rights Reserved.kk