脸上露出了一丝不易察觉的笑意。
“那字节和鹅厂呢?”左梦安问,“这两家才是真正的大头。”
姚尘风看了陈默一眼,表情变得微妙起来:“字节和鹅厂的情况,比360和帝西都要复杂。陈默总最清楚,让他来说吧。”
所有人的目光转向陈默。
陈默放下手中的茶杯,语气不急不缓,像是在讲述一个与自己没有关系的故事。
“字节这边,大方向是顺利的,但过程里确实遇到了一些问题。”
他停顿了一下,组织了一下语言:
“字节的团队对鸿蒙的技术能力其实很认可。
他们派了一个算法团队跟我们对接,花了三天时间测试鸿蒙的端侧推理能力 —— 就是在大模型在手机本地运行的能力。
测试结果出来之后,字节的人说:‘在鸿蒙上跑推荐模型,延迟比安卓低百分之十五。这种性能提升,值得专门做适配。’”
“但是,”他话锋一转:
“测试过程中发现了一个问题。
鸿蒙的端侧推理框架和字节的推荐模型之间存在一些兼容性偏差,导致在某些边缘场景下,推荐结果的准确性比安卓低了大概百分之八。
这个偏差虽然不大,但对字节来说是不能接受的。
他们的核心竞争力就是推荐算法的精准度。”
左梦安皱眉:“这个问题严重吗?”
“说严重也严重,说不严重也不严重。”陈默坦诚地说。
“严重在于,这个问题如果解决不了,字节就不可能把核心推荐能力迁移到鸿蒙上。
不严重在于,这不是底层架构的问题,而是接口层的适配问题。
我们的端侧推理框架和字节的模型之间需要做一层适配优化,把这个百分之八的偏差抹掉。”
“那现在解决了吗?”郑非问。
“技术层面已经有方案了。”陈默说。
“我们的工程师和字节的算法团队一起分析了问题根因,发现是鸿蒙的NPU调度策略和字节模型的内存访问模式不匹配。
我们在开发环境里跑了一个优化版本,把偏差从百分之八降到了百分之三以内。
但百分之三还是不够,字节的要求是百分之一以内。”
“所以还需要进一步优化?”徐平问。
“对。”陈默点头:
“我们这边已经在做第二版优化方案,预计两周内
…。。本站若有图片广告属于第三方接入,非本站所为,广告内容与本站无关,不代表本站立场,请谨慎阅读。
Copyright © 2020 二零小说 All Rights Reserved.kk