第437章多多益善
海城,起源集团总部,董事长办公室里。
韩路一坐在电脑前,视频会议接通,赵文渊的脸出现在画面里。
「文渊,最近怎么样?」韩路一笑着招呼道。
「韩总,都好都好。」赵文渊答道。
周五下午,两人有个固定的一对一会议,没有什么固定的主题,如果有什么大的工作进展要汇报就讨论工作,没有的话就聊聊对战略的判断,甚至纯聊生活也可以。
这是韩路一自己做的安排,他和每个高管都有这种会议,根据级别不同频率也不一样。
但是他对于和赵文渊的会议格外重视,主要是因为两个原因。
第一是出于京城研究院的重要性,现在所有和大模型相关的研发工作、互联技术团队,还有医疗和电力行业的落地试点都是在京城研究院下面,可以说是大模型研发的内核。
第二则是出于远程管理特殊性的考虑。
虽然不像跨国企业那样需要克服时差,但是办公地点分开在两地和当初在一个办公室里办公的感觉还是完全不同的。
在一个办公室的时候,大家低头不见擡头见,很多小问题在走廊上碰见就顺便聊了。
有急事了很多时候也不需要提前预约,随时登门都可以。甚至午饭时间一起吃个饭,又能增进感情又能聊工作。
但是分开两地办公,这些便利就都没有了,每次会议都有固定的议题,聊完就结束了,人和人之间的关系也难免会疏远。
所以这个固定时间却没有固定主题的会议就格外重要。
「今天有什么议题吗?」韩路一问道。
赵文渊点了点头:「确实有些事要汇报,我们最近讨论了汤圆下一个阶段的训练方案,暂时的想法是在现在的基础上,再投入更多的算力,增加参数量。这主要是基于我们对现在汤圆能力的一些不足的考量。」
「汤圆现阶段主要出众在意图理解和长程任务规划,但是在逻辑推理和复杂问题的解决上面其实并没有做到非常领先,只能说是不算落后。这是因为标注数据能带来的提升主要集中在意图理解方面,想要提高数理能力和解决问题的能力,最主要还是需要提升参数量,不然面对国外顶级模型的竞争会吃力。」
这是汤圆2。0的叠代方向的问题了,是不是要和海外模型卷参数大小,加入这场军备竞赛,以及如果加入的话,算力从哪里来。
现在起源这边的大部分算力都分给了推理,留给训练的部分只有一小部分。
这一小部分当初做汤圆1。0的后训练是足够的,可要是想再做一个更大参数的汤圆2。0
的基座,肯定是远远不够的,差的算力从哪里来?
推理集群里的L100倒是可以挪过来一部分做训练,但是这又势必影响到依赖于汤圆模型的所有产品线的—包括开物、御风和汤圆Chat,以及公开销售的汤圆API——的供给能力。
即使不考虑新用户的增长,现有用户的体验是不能降的,不然口碑分分钟就会崩盘,模型能力再强也救不回来。
这里面又该如何权衡?
韩路一问道:「你觉得训练2。0需要多少张L100?」
赵文渊显然早就算过了,脱口而出:「一万张。」
说完他又怕说少了,赶紧补充了一句:「最少一万张,但是多多益善。」
韩路一听了一阵苦笑,L100现在一共就一万八千多张,这一下就是一多半啊,其他的计算卡集群虽然也在陆续上线承担一些推理任务,但是离能够替代这一万张L100还有不少差距。
「好,下一步提升参数量和数理能力这个方向我认同,你们可以先做训练方案的规划,至于算力这边,我来想办法。」韩路一说道。
韩路一说这话的时候其实也一阵头疼,算力不足,他一时还真没什么办法。
怎么开了挂解决问题还是这么难?
网络那边的赵文渊听了却很高兴,果然不愧是万能的韩总,就没有能难得住他的问题。
这时,韩路一问道:「对了文渊,我这边也有几个问题想问你。现在汤圆1。0的能力在很多场景下其实有点儿过剩了,我们是不是也考虑训练一些小模型,无论是在内部的使用上还是对外出售,提供更多的选择。」
赵文渊听完点了点头,说道:「您是说fIash版吧,旗舰模型稳定后发布轻量版走量确实也是业内的通行战略,但是算力方面赵文渊话没说完,一般来说,轻量版推出之后由于价格便宜,会吸引更多对性价比比较敏感的用户,虽然单位算力消耗的更少,但是总得需要的算力可能又上升了。