笔趣阁

九五小说网>首富从AI浪潮开始手打无错字版 > 第293章 第290章 你不知道NullPointer是谁(第2页)

第293章 第290章 你不知道NullPointer是谁(第2页)

范小天又把外卖的事情忘在脑后了,他现在满脑子想的都是一件事。

这个实现效率怎么样?

因为没有性能分析工具,他没办法读取L100显卡上的各项指针,像SM(Streaming

,流式多处理器)利用率、显存读写效率这些东西,也就没法计算这个实现的运算效率到底有多少。

但是还有个取巧的法子,也是源智团队一直在用的。

读不了指针没关系,可以直接计时运算时间,再和英伟达的卡比一比,看看能达到竞品卡的多少效率就可以了。

按说这个阶段还没到测效率的时候,但是看着这么优雅的代码,范小天忍不住了。

万一呢?是吧?

范小天迅速搭了个简单的计时基准:同样的Batch大小,同样的串行长度,同样的运算,分别在手头的L100和一张组里共享的H100上跑,计时,对比。

这张H100可是传家宝,也不知道江工是从哪里搞来的,组里一起用来做性能测试的,大家都宝贝得不得了。

参数设好,范小天看着提交键咽了口口水,才按了下去。

进度条跑起来,这次等的时间稍微长一点点,因为性能测试要连续测好几轮,取平均值,这是为了保证测试的稳定性。

大概三分钟。

结果出来了。

L100平均每步用时4。6毫秒。

对标的英伟达H100平均每步用时4。8毫秒。

比英伟达还快!

比英伟达的H100还快!

范小天把脸凑近了屏幕,又看了一遍。

他以为自己看错了。

他又往后退了退,眯着眼睛,又看了一遍。

百分之一百零四点二。

之前源智团队一直是把运算效率达到了H100的百分之多少作为性能测试的基准的。

但是这次是L100直接超过了H100,超了百分之四点二!

不对。

不对不对不对。

范小天把测试工具调出来,准备再跑一遍。

要是刚才那遍是跑错了怎么办?

又是三分钟。

结果和刚才一样。

L100在【注意力融合反向算子】上的单步运算速度稳定的超过了H100。

范小天擡起头,眼睛里露出迷茫的神色。

这个世界是怎么了?

我不是回来追求理想,报效祖国,突破万恶的美弟国主义算力封锁的吗?

怎么突然一下国家就不需要我的帮助了?

怎么国产卡已经算力突破了?

范小天在椅子上坐了很久,没有动。

这时,模型组的小牛从外面进来,手里提着一个外卖盒。

「范哥,这是你的外卖啊?我看放在门口,帮你带进来了,都凉了。」小牛把外卖盒放在范小天的桌子上,准备回工位加班了。

小牛还正在为结丹而努力呢,今天下午猛猛肝了一个任务,一个新的成长事件已经在「深蓝」里弹出来了,他相信这么下去,他离金丹期就不远了,肯定能比小杨先高端。

可以可以,金丹在望,元婴可期,我就是源智的化神老祖。

这时,范小天才回过神来,他擡头看向小牛,问了一个问题。

「,你知道谁的帐号是null—pointer吗?」

小牛用奇怪的眼神看了一眼范小天:「你不知道?」

范小天一愣,怎么,我应该知道吗?

「这是谁啊?」

小牛用手指了指天上,开口说道:「那是韩总的帐号啊。」

>

已完结热门小说推荐

最新标签