免费阅读
返回
菜单
上一章查看最新章节下一章

第四百六十四章 下一波算力

作品:首富从看见信息面板开始作者:路大头
如果本章错误,请点击报错10秒纠正

¼Ÿ”

韩路一想了想,说:“我说一句。开会要开到点上。在场谁若觉得自己不能在这场会议里贡献意见,只是来跟进进度,可以先离场;之后看会议记录也一样,不用在这儿浪费时间。”

韩路一说完,看了一圈,倒是没有人离场。

他接着说道:“还有,每场会议开始前都该有预期产出。我刚才听了一下,这场会开完会把合作计划和排期定下来,是吧?会议结束时记得总结一下。”

说完,韩路一对着屏幕点了点头:“小牛,开始吧。”

小牛站起身,清了清嗓子,说道:“韩总,江总,我先给大家做一遍演示。”

小牛共享屏幕,做了一遍演示,内容和高管例会上赵文渊做的基本一样。海城会议室里,基础设施部门的员工都是第一次看到成果,心中初步满意,却不免仍有怀疑。

单个请求做得又快又好,只是不知道并发上来后表现如何,又会占用多少资源。

豆汁儿要代替汤圆做调度辅助,除了精度不能拉胯,自身也不能太耗算力——不然省出来的算力全用来跑调度器,就完全没意义了。

江松然率先提出这个问题:“这个豆汁儿模型想支持十万QPS,需要多少算力、多少资源?”

目前整个起源自有算力的吞吐量大概就在十万QPS这个量级,江松然才有此一问。

这是把豆汁儿接入每一个调度请求所需要的资源。

小牛拉出一张图表:“江总,我们做过压测,自己使用的八卡L100大概能做到两万四千QPS。”

这个数字让海城会议室的人一惊。

那岂不是说,就算加上资源冗余,要服务整个起源所有推理请求的调度,也只需四十张L100左右的算力?

这个豆汁儿模型也太小太省算力了吧。

江松然对身边的基础设施总监陶封说:“老陶,刚才赵总那边说,豆汁儿模型的判断准确率能到98%。按这个数据估算,如果现在把每一步算力调度都跑一遍豆汁儿模型,照我们之前的估算,大概能提高多少效率?”

陶封在面前的笔记本电脑上迅速操作了几下,回答:“我们之前测算过,总体算力约有百分之三十因资源错配被浪费;若真能达到这个准确率,应该至少能救回百分之二十。”

两个数据中心目前一共部署了三万张左右计算卡,若能从里面优化出百分之二十的性能,就等于凭空多出六千张卡。

四十张卡,能

…。。
   本章没完,请点击下—页继续阅读!如果被转码了请退出转码或者更换浏揽器即可。
  温馨提示:亲爱的读者,如果你觉得本站还好,为了避免丢失和转马,请勿依赖搜索访问,建议你使用[华为刘揽器]或[Firefox火狐刘揽器]访问并收蔵【二零小说】 m.20012001.net。我们将会持续为你更新,还建议你注册会员使用书架功能追书阅读更方便。
上一页 12345下一页
上一章查看最新章节下一章
临时书架加入书签回顶部↑

看了《首富从看见信息面板开始》的书友还喜欢看

班级求生:我是大客车内唯一男生
作者:养鱼养猫的码字人
简介: 【公路求生】【多女主】【顶级天赋】【不圣母】【杀伐果断】\n蓝星全人类以组织的形式被...
更新时间:2026-10-26 21:29:27
最新章节:第485章 一定要好好活下去哦!
叫你拍特摄,你真去当奥特曼了?
作者:秋月爱莉
简介: 【6月11日第一天出6.9评分,绝对会涨,如果能阅读到三十章,保证给你个不一样的奥文...
更新时间:2026-10-26 21:33:04
最新章节:第三百二十五章 无人的课桌
修仙:我的灵田能进化万物!
作者:花鱼语
简介: 【仙侠+凡人修仙+搞笑+多男主+双强】山村少女苏小瑶,意外救了一个身受重伤的
更新时间:2026-10-26 21:24:00
最新章节:第78章 狗蛋屠村!
我靠风水中医术,养活六个妹妹
作者:左小七呀
简介: 八岁那年,由于我体弱多病,父母将我托付给了一道门师父,跟随学习风水与中医绝学。
更新时间:2026-10-26 21:31:50
最新章节:第 226章 困境:被阴了!
开局三千重甲步兵,我大明怎么输
作者:1213576
简介: 子时三刻。\n六千黑甲踏破紫禁城。\n我,朱慈烺,明末末代太子。

...
更新时间:2026-10-26 21:36:10
最新章节:第275章 鸡飞狗跳
别人政斗我招工,不小心成女帝了
作者:煎饼果子嘎嘎香
简介: 【沙雕+权谋+女强+团宠+爽文】秦王府的痴呆郡主云潇落水醒来后,喜提神秘势力刺杀小连...
更新时间:2026-10-26 21:29:00
最新章节:第264章 深更半夜来挖坟
书名:

本站若有图片广告属于第三方接入,非本站所为,广告内容与本站无关,不代表本站立场,请谨慎阅读。

Copyright © 2020 二零小说 All Rights Reserved.kk

SiteMap