也就是说,不到一个小时的时间,他已经把可能要耗费大型工程团队几个月时间的工作做完了,同时消耗掉了六百多点精力。
这么看来,今晚是没办法继续肝了,但是在视界如此给力的情况下,只要规划好精力的分配,一个月之内把所有的算子适配都做完是完全可行的。
韩路一满意地点了点头,手动在电脑上敲上了提交命令。
gitadd。&&gitcommit—m「adaptercompleted「&&git
push
回车。
下班。
在韩路一下楼离开办公室的同时,十三楼的人工智能基础设施组,有不少人还在加班o
江松然今天开组会的时候已经把接下来的计划传达过了,全力做L100的推理适配。
全组的人压力都很大。
给国产卡做算子适配,这在全国、乃至全世界都是最前沿的工作啊。
这种工作,是最不敢保证交付时间的,都是没人做过的东西,你根本没办法预测会在什么地方出个填不平的大坑。
但是江松然说话的语气很笃定,虽然没有说明确的时间线,但是大家都感觉到了江松然的决心。
任务分配到人,每个人负责几个算子,按照优先级从高到低做,只要求功能实现,先不做性能调优,做完了就提交评审,然后再做下一个。
工作量很大,所以有不少人都自愿留下来加班。
范小天是其中一个。
源智基础设施团队的高级工程师,薪水拿的不低,但他不是为了钱来的。
他不一样,他是为了理想。
毕竟,如果一个人靠着英伟达的股票已经实现了财务自由的话,他接下来的工作不去追求理想,又去追求什么呢?
当然,范小天一般不会把这句话说出来。
因为听起来太欠揍了。
但他确实是组里最资深、最有话语权的人之一。
原因很简单,他以前在英伟达做的就是类似的工作一给大模型训练框架里的内核(Kernal)做适配,做性能分析(Profiling)工具。
但就是因为他的履历,他对公司现在的方向不太看好。
太急功近利了。
太想毕其功于一役了。
在硬件上做适配,做调优,和做互联网不一样。
这里需要的不是什么快速叠代、小步快跑,这是一件必须沉下心来,慢慢扣、慢慢做的事情。
心急吃不了热豆腐。
干起活来很痛苦,这是很正常的。
今天拿起分析工具一跑,运算效率又波动了,为什么?
不知道啊,可能是因为显存访问模式不一样了,可能是因为寄存器压力不一样了,也可能是编译器展开方式不一样了。
想知道为什么,只能一个一个试过去。
拿着分析数据一点点猜。
所以江松然把训练算子适配的任务压下来的时候,范小天就很不舒服。
但他也能猜到原因。
一定是大老板给的压力太大,把江松然的进度压变形了。
毕竟这么不切实际的任务,不像是一个在行业里干了十几年的老兵能派出来的。
大老板可能是不懂,也可能是有投资人那边的压力,也可能是模型做的太好、心态飘了。
反正不管怎么样,范小天已经给源智在心里调低了评分。
理想终究是错付了。
摇了摇头,把这些杂念赶出大脑,他在公司提供的链接下单了晚餐的外卖,然后开了一听可乐。
哪怕老板再傻逼,活还是要干,毕竟他拿的薪水也不低。