基于现在的大模型理论,模型越大,参数越多,模型的能力就越强。可是想要把那么多信息训练到一个模型里,就需要能够同时容纳所有原始信息的内存,只有使用万卡这个规模的集群,才有可能训练出这样的超大模型来。
可以说万卡集群才是英伟达体系王冠上的明珠。
而现在,江松然已经有野心在源智科技用国产显卡挑战万卡集群了。
当然了,ai训练用显卡的成本,即使国产的成本低很多,单卡价格也在十万元人民币以上。要做万卡集群,单是显卡成本就要十亿。更别说这个级别的集群,配套的机房、电力、冷却、存储等等成本加起来是显卡本身的一倍左右,万卡集群的总投入要在二十亿以上。
但是这些事情江松然都不担心。那不是ceo应该担心的问题吗?他相信到时候韩路一会解决的。
这些念头在江松然的脑子里转了一圈,什么都没说出口。
只是他那颗因为家中变故而变得沉寂的心,突然又火热起来了。