书香阁 > 科幻灵异 > 首富从AI浪潮开始 > 第一百九十九章 五百卡?起步

第一百九十九章 五百卡?起步(2 / 4)

张卡,这个采购量在国产卡里不算大,哪家都拿的出来,但是具体从哪买,买来能做到什么程度,我还想听听你的意见。”

这个数字韩路一在医院的时候就已经和江松然透露过了,江松然也早就做好了准备——他知道入职之后韩路一是一定会问的,他不打无准备之仗。

“韩总,我回去看过了,现在市面上最先进的国产卡能做到400tflops,如果只是推理的话,五百张支撑十万日活绰绰有余。”江松然说,“基于标注数据的后训练,虽然勉强,但也能做。但是要做预训练,是远远不够的。”

tflops(teraflops,trillionfloatg-poerationspersend)是衡量计算机算力的单位,中文是“每秒一万亿次浮点运算”。因为gpu的强项就是进行浮点数学运算,如果把每个gpu都比作一辆跑车的话,tflops就是它仪表盘上的最高时速。

用n卡体系来举例的话,游戏玩家的梦中情卡rtx5090在ai实际用的精度下大概能做到200tflops,而专业用于ai训练的英伟达b200型号显卡,能达到单卡2250tflops的恐怖算力。

韩路一点了点头,这和他设想的没有出入。

“而且,韩总,我不知道咱们团队里有没有人有过显卡集群管理的实操经验。但是,非cuda生态显卡集群的管理难度和cuda生态是完全不一样的,五百张国产卡,全国能把训练栈跑通的不超过三家。”

说完,江松然露出略微骄傲的神色:“有我在,我有信心源智科技是其中一家。”

韩路一对此倒是不怀疑,毕竟他招江松然进来,就是要他干这个的。

他接着问道:“那从哪家采购最好,你有什么建议吗?”

江松然微微沉吟了一下,没有马上回答。

这个问题其实有点儿敏感。江松然当过管理者,当然知道对于任何一家公司来说,采购都是敏感话题,更何况ai用显卡的单卡价格都在十万以上,五百张就是五千万的采购,金额可不小。

如果是为了安全,他最好是给出一家国产头部大厂的推荐,大厂内控严厉,给他回扣的风险小,韩路一也更不会怀疑他。

但是江松然在做过调查之后,确实发现了一个更好的选择,只是说出来未必对他本人是一件好事。

他没有犹豫太久,还是咬了咬牙,说出了更冒险的版本:“有一家,叫硅明半导体(si

最新小说: 重生之狂暴火法最新章节 外科教父海与夏 国潮1980最新章节 盖世双谐最新章节 重生之狂暴火法全文免费阅读 我是如何当神豪的最新章节 国潮1980镶黄旗 开局签到荒古圣体全文免费阅读 白骨大圣全文免费阅读 阴阳石最新章节