笔趣阁

九五小说网>首富从AI浪潮开始手打无错字版 > 第93章 名字想好了吗(第3页)

第93章 名字想好了吗(第3页)

「对,内核算法是我自己写的,」韩路一说,「这是技术壁垒。」

「你这个数据的确不可能是偷来的,客户的代码良莠不齐,偷来的没有这么高的质量。」赵文渊叹了一口气,「怪不得CodeSafe会输给你,我心服口服了。」

「这个准确率,这种用法,」他接着说,「你手里的是一条自动化的数据清洗流水线,别人要花几千万请人标注的事,你用算法跑一遍就完了。」

他又想了想,语速突然变快。

「而且,BugKiller检出来的那些Bug代码和修复后的版本,这不就是现成的DPO训练对吗?有Bug的是坏例子,修复后的是好例子,天然的偏好数据。」

韩路一点了点头。

「SFT用干净的提示词、代码对,DPO用Bug、修复对,两条管线同时跑。」赵文渊的手在桌上敲了两下,越说越兴奋,「数据飞轮,这个别人偷不走。就算把数据偷走,没有这个检测引擎,也做不出同等质量的清洗。」

韩路一没说话,文渊,入吾彀中矣。

赵文渊拿过那张写满数字的纸巾,翻到背面,接着写。

「后训练不需要预训练那种千卡集群,但也不便宜。H100单卡现在市场价二十到二十五万,8卡一台服务器,一台一百六到两百万。」

他给纸巾拍了照,放进手机备忘录里,然后在备忘录里敲了一串数字。

「中等规模模型,几十亿参数,后训练至少需要十六到三十二张卡。」

「先租。」韩路一接过话头。

赵文渊擡头。

「第一版跑通之前不锁定硬件。」韩路一说,「万一方向要调,买的卡可退不了。」

赵文渊笑了,以前在谷歌的时候,训练模型还真没这么抠搜过。

「你挺清醒的。」

「穷过,谢谢。」

赵文渊在备忘录里快速敲着数字:「算力租赁首批八百万,数据清洗和补充标注三百到五百一这个可能可以省下来,团队薪资六个月四百万上下,工具链杂项三百万,再预留一千万。」

他把手机推过来让韩路一看。

「够用了,先跑起来。」

两人越聊越快,瑞幸下午三点多的店里不算吵,但他俩的声音在不自觉地变大。

旁边桌一个戴耳机的女生摘下一只耳机看了他们一眼,两个装逼犯加一个肌肉男,这组合可太奇怪了。

店员走过来:「几位要不要再来一杯?」

韩路一这才注意到自己坐下来到现在还没点单。

「一杯生椰拿铁。」

「两杯。」赵文渊头都没擡。

张彪跟着店员去扫码下单了,韩路一看了一眼桌面,几张写满数字的纸巾,一台笔记本电脑,两个手机,在瑞幸谈几千万预算,是有点好笑。

「我明天就来上班。」

韩路一看着他:「这么急?」

「等不了了,想快点上手。」

「对了。」他说,「最难的问题,大模型叫什么?名字想好了吗?」

韩路一看着他笑了:「我早就想好了——」

「天工。」

>

已完结热门小说推荐

最新标签