发现者网
产业经济 科技业界 3C数码 文化传媒 移动智能 家电行业 产业互联网 AI大模型 汽车出行

Kimi官宣,国内首个对标OpenAI的数学模型来了

2024-11-18来源:华尔街见闻编辑:瑞雪

一年前的11月16日,Kimi全面开放,随后凭借“长文本”功能迅速占领市场,成为中国首个因技术创新而广受欢迎的AI应用。如今,Kimi迎来了技术的重大升级。

11月16日,在Kimi正式上线一周年之际,月之暗面发布了最新数学模型k0-math,在多项基准能力测试中,k0-math的数学能力已经可以与全球领先的OpenAI o1-mini和o1-preview模型相媲美,甚至在中考、高考、考研以及入门竞赛题MATH等4个数学基准测试中超越了它们。

尤其在业界最常使用的数学能力基准测试MATH中,k0-math模型得分93.8,超过o1-mini的90分和o1-preview的85.5分。k0-math这一成绩在全球仅次于暂未开放使用的o1完全版94.8分。

这是Kimi推出的首款推理能力强化模型,k0-math采用了强化学习和思维链推理技术,这也是Open AI o1系列背后的关键技术。

官方演示显示,k0-math通过模拟人脑的思考和反思过程,显著提升了解决数学难题的能力。即使在经历多次失败后,k0-math也能意识到之前使用了过于复杂的方法,并最终得出正确结果:

“训练这个模型的过程,最重要的是去看它的思路,是不是真正具备深度思考的能力,这一点非常重要。”月之暗面创始人杨植麟表示,对于一些非常难的竞赛题目,k0-math能够提供完整的思路,并在推导过程中不断给出新的思路,展现出强大的推理能力。

k0-math虽然已经展露出不俗的能力,但AI技术仍处于快速迭代中,它还有很大的提升空间。在两个难度更大的竞赛级别数学题库OMNI-MATH和AIME的基准测试中,k0-math初代模型的表现与最好的o1-mini相比尚有15%左右的差距。

杨植麟也指出,在一些过于简单的数学问题上,比如,1+1等于几,k0-math可能会过度思考,接下来的研究重点是让它有更好的泛化能力,能在更多场景中落地使用。

作为国内最受瞩目的AI独角兽,月之暗面此时推出k0-math,不仅仅是一次常规技术发布,更代表了Kimi在技术范式上的一次重大迭代。

“我们接下来会越来越关注基于强化学习(Reinforcement Learning, RL)的方法去‘Scale’。”杨植麟认为,Scaling是支撑AI技术过去几年发展的根本原因,但Scaling并不是简单地把模型做得更大就好,核心是找到有效方法。

这也会带来大量工作,比如,重新平衡好数据、算法和算力。杨植麟表示,以前做Next—Token Prediction,是静态数据,但对强化学习来讲,学习数据可能都是自己生成的,会对奖励模型效果提出挑战,同时还要把奖励模型用到学习过程中,减少学习错误。

好在杨植麟早已预见到,随着训练数据到达上限,推理的比例将远远超过训练,因为需要生成数据,就需要用到强化学习,这是必然会发生的事情。“Open AI o1的变化其实可以预测。”

为此,月之暗面在人才和技术上提前做了储备,这也为Kimi推出数学模型k0-math奠定了基础。今年9月,OpenAI发布首款具有推理能力的模型o1,只用2个月,k0-math就已问世,可见速度之快。

“长文本”让月之暗面一战成名,迈出登月第一步,如今,公司迈出以深度推理能力为标志的第二部。事实上,在云栖大会上,杨植麟就已表示,行业接下来最重要的里程碑是强化学习,新的Scaling范式会形成一些突破机会。

如今来看,新的强化学习技术范式带来的推理能力提升,也将应用到更多日常任务上,而能否让模型在广泛的场景里使用,这是衡量模型市场前景和商业价值的核心。

杨植麟认为,数学模型可以应用到教育领域,K12、大学甚至是竞赛。同时,为了把推理模型进行更多的泛化,他把强化学习用在了搜索场景里,跟Kimi探索版进行结合。

数据显示,Kimi探索版的搜索量是普通版的10倍,一次搜索可精读超过500个页面。在信息调研和分析场景的搜索问题测试中,Kimi探索版综合性能超过国内外同类产品至少30%。

Kimi探索版在搜索过程中的推理能力显著提升,意图增强、信源分析和链式思考方面的能力显著提升,以链式思考为例,Kimi探索版可以更好地基于思维链推理能力处理产品、公司、行业等研究问题。尤其受到程序员、科学家、咨询顾问、投资人、律师等专业人群的欢迎。

过去一年多,月之暗面经历了飞速发展,无论是产品技术还是估值,都成为“AI六小虎”中发展势头最迅猛的公司之一。

杨植麟透露,Kimi在10月月活跃用户已经超过3600万,并还在持续增长中。业内人士表示,Kimi在PC网页端是国内第一的AIGC生产力工具,手机端在国内目前仅次于继承了抖音娱乐基因的豆包,且头部优势愈发明显,不过,相较Open AI几亿量级的用户而言,Kimi还有很长一段路要走。

获悉,月之暗面的多模态产品已经处于内测当中,预计很快会对外公布,叠加推理模型的推出,这些动作无疑会吸引更多用户。

在这场全球AI竞赛中,杨植麟要带领Kimi在一个裹挟着巨大希望和时刻被质疑的行业里,闯出一条通往AGI的漫漫长路,这场征程才刚刚开始。