信AI排行榜,不如信它们的游戏排位分数。
创始人
2025-08-17 06:12:54
0次

文章开头问大家一个问题,如果想知道最近哪个 AI 牛,你会怎么查?

直接上 AI 竞技场,XX 排行榜?

没错,这些是有一定参考能力。

但看完最近大模型圈的电竞比赛后,我觉得现在多一种更靠谱的办法了,那就是看——

AI的游戏排位天梯。

前几天,Google 旗下 Kaggle 举办了首届 AI 国际象棋比赛,一共有 8 名选手参加,个个都是狠角色。

什么 Gemini 2.5 Pro、Grok 4、DeepSeek R1。。

比赛规则很简单。每场对决为“ 四局两胜制 ”,谁先拿到2分(胜1分,平0.5分)谁晋级。如果打成 2-2 平,将加赛一场绝杀局。

比赛过程中,我们还能看到这些职业选手的思考过程,看看他们如何应对对方的进攻,看待自己的失误。

结果说起来你可能不信,在众多排行榜都保持第一的 Gemini,只拿下季军。

而 GPT-o3,则以一把没输的绝对统治力,夺得冠军。

看到这,可能有差友好奇,为啥要让这些大模型下棋啊,谁赢谁输和咱有关系么?

因为国际象棋,更能让你看出 AI 的实力。

相比那些传统排行榜,国际象棋考验的是一套无法靠刷题速成的综合能力,更能展示出一个大模型的思考、涌现能力。

过去,我们要想知道哪个模型牛,主要看两种榜。

第一种就是 AI 竞技场 LMArena,可以把它理解为大模型圈的《蒙面歌王》。

你随便问个问题,它给你两个匿名模型的回答,你觉得哪个好就投哪个。

听起来很公平是吧?但它也有不少缺点。

首先圈子太小了。

我不提,可能很多人都没听过这网站。天天泡在上面投票的,不是专业的技术人员,就是一些前沿科技发烧友。

这些人的问题和对答案的主观判断,跟咱们普通人可能并不一样。

这就导致 AI 竞技场排名,更像是一种技术爱好者的口味榜,并非适合你我。

其次,嘴甜的大模型在这种模式里,很容易占便宜。

很多时候,大伙儿不会去做事实核查。

如果有一个模型说错了所有答案,但它回答地头头是道,答案很清晰,逻辑也很自洽,那它很有可能骗走一堆不该有的票数。

除了 AI 竞技场这种主观排行榜,大模型还有 MMLU Pro和 AIME 这类客观基准测试。

MMLU 全称是大规模多任务语言理解,它包含了从初中水平数理化到研究生水平的历史、科学、法律等 57 个科目,MMLU Pro 则在此基础上进一步加大难度,总之它可以迅速衡量一个模型知识面的宽度。

AIME 也类似,这是美国高中生数学竞赛体系中的一环,可以测试出大模型们的逻辑推理深度。

这两类考试的优点,都是极度客观。

但缺点也很致命。

一个大模型的 MMLU 分数高,只能说明它读过很多书,或者提前训练了题库,并不能反馈出模型的理解能力。

它可能知道“火锅瞎掉一只眼是哪一年”,但不一定能分析出火锅瞎眼对狗圈颜值会带来多大损失。

而且啊,从去年开始,几个头部大模型们正确率就已超过了 80%,正不断接近于人类专家水平(89.8%),我们也很难看出这些模型之间的实力差距。

同样,AIME 只能测试一种非常线性的、基于数学公理的逻辑。

但真实世界的问题,哪有像数学题这样逻辑清晰、条件充分的。

一个在 AIME 里爆杀的大模型,或许并不擅长帮你解读电影,帮你怎么理解领导的话中话。

到这,你应该能明白 Kaggle 搞这场象棋比赛的逻辑了——

别再让 AI 考试和选秀了,到底有没有实力,直接线下真实一波就知道了。

毕竟大众普遍需要的,是一个能在复杂、多变的环境中,实时解决未知问题的大模型。

而游戏,就是一个很不错的修罗场。

因为你想在游戏里赢,光会背书没用,每一次对局都是完全不一样的。

在游戏中,你也得有大局观,不能只盯着眼前这一步,最关键的是,还得有应变能力,对手一出招,局面又会发生变化,你要会调整战术,甚至思考要不要壮士扼腕。

这些能力,在静态的考卷上是绝对测不出来的。

虽然这次比赛直播采用锦标赛形式,但最终的排行榜是由全对全系统决定,这些大模型还要幕后进行上百场比赛,最终才会出现一个动态排行榜,给大家查看排名。

国际象棋的比赛结束后,Kaggle 还会继续举办其他游戏比赛,比如扑克牌,甚至是狼人杀。

该说不说,以后的 AI 排行榜,可能会越来越刺激了。

撰文:刺猬

编辑:江江

美编:萱萱

图片、资料来源:

Kaggle Game Arena Chess Exhibition Tournament 2025

2025 Kaggle Game Arena Chess Exhibition Tournament: Official Discussion Thread

Chess NewsKaggle AI Chess Exhibition Tournament LIVE

Chess Text Input Leaderboard | Kaggle

Google Kaggle 举办 AI 国际象棋锦标赛,评估领先模型的推理能力

文章开头问大家一个问题,如果想知道最近哪个 AI 牛,你会怎么查?直接上 AI 竞技场,XX 排行榜?没错,

相关内容

热门资讯

国产大模型下调推理服务价格,南... 近日,国内某大模型企业宣布下调其flash系列模型服务价格,输入缓存命中、输入缓存未命中及输出价格最...
解码青年人AI生活《2026有... 中新网深圳9月5日电(记者索有为)《2026有意思生活方式报告》(下称《报告》)4日在全国首个有意思...
OpenAI 最强 AI 生图... 9月9日消息,OpenAI 9 月 9 日官宣发布 ChatGPT Images 2.5,图像生成延...
探索AI供应链产业化路径京东推... 2026年以来,人工智能应用范围加速拓展,持续从数字空间走向现实生活,广泛融入生产线、仓储厂房、配送...
教育部发文!AI生成内容,教师... 一篇论文,因为AI使用不当,相关高校师生被通报处理。 9月2日,安徽财经大学公布“教师与学生涉嫌学术...
AI识别出近800种可充当乳化... 英国利兹大学食品科学与营养学院和爱丁堡大学科学家携手,开发出一款 人工智能(AI)工具,能从数千万种...
搭上低空经济、AI文旅?两连板... 桂林旅游(000978)回应市场热点。 9月8日,桂林旅游再度涨停,斩获2连板。当天晚间,该公司披露...
硅谷:我们不能被硅谷“AI刹车... 【文/底线思维】 OpenAI首席科学家Jakub Pachocki最近写了一篇文章,题目叫《An ...