的那位是柳老,他先问了问国产算力这一块的进度。
韩路一既备了打印资料,也带了存有昨天幻灯片的U盘;可现场似乎没有放幻灯片的地方,他便先把打印资料递了过去。
资料很简短,没讲具体技术细节,只说了大方向上的挑战和完成进度。
眼下国产显卡基本各自为政,料堆上去了,理论数据也亮眼,却跑不了训练,根子在于缺少英伟达CUDA体系的积累。
在算子层,国产显卡支持的算子有限,同硬件的结合也生硬;即便实现了同样的算子,效率也只有英伟达同级卡的两到四成。想靠兼容适配过渡,又绕不开英伟达的专利限制。
源智现在做的是,把硅明L100推理相关的算子全部优化完,让L100跑出A100八成多的效率;接下来再把相关算子逐一跑通,解锁训练能力。
可即便做完,也只是硅明一家。它的产能和开发能力都有限,还称不上产业突破。
柳老点了点头。这里面有含金量。半导体是国家重点关注的产业,他了解得深,生态确实是大问题。
交给私企,像填一个无底洞,企业没动力,也怕填着填着把自己填没了。
若让国企领头来做,过去无数经验又证明,效率不高。
别的暂且不说,源智科技若能把这条路跑通,哪怕实现不了全行业突破,也算立起一个好标杆。
尤其是这个创始人,不卑不亢、进退有据,是个能成事的苗子。
资料看完,柳老又问:“小韩同志,你觉得破局的方向在哪儿?”
这是道考题,不过他没指望韩路一答得出来——说到底,这不是企业层面该考虑的问题。
没想到,韩路一侃侃而谈。
“我觉得,国产突围之所以困难重重,是因为看不到方向。”
“人工智能基础设施上的问题,不是实验室跑通几个样例、展会上做几次成果展示就能解决的。”
“我们做一线研发的,遇到的问题都很具体:比如同一个模型在不同算子组合下,显存占用和吞吐表现差异很大;推理服务用量一大,除芯片算力外,还要考虑调度、通信、缓存和容错策略;若要做训练,单卡跑通只是第一步,更关键的是大规模集群下的稳定性、通信效率、框架兼容和故障恢复。”
“这些都不是实验室里的问题,必须落到工业级场景里去做。”
听到这里,柳老和王老都被勾起了兴趣,坐在沙发上的身子微微
…。。本站若有图片广告属于第三方接入,非本站所为,广告内容与本站无关,不代表本站立场,请谨慎阅读。
Copyright © 2020 二零小说 All Rights Reserved.kk