LangHuiAI · STEM Multimodal Benchmark

大学难度多模态题库

面向 GPT-5 / Claude Opus / Gemini / Qwen / DeepSeek 等 SOTA 多模态大模型预训练与评测

专为筛选「真正需要的知识」而构建 — 只有通过率 ≤40% 的题目才能入库

30%
健康与医学
病理 / 影像 / 心电等
25%
技术与工程
电路 / 机械 / 金相等
25%
自然科学
电泳 / 光谱 / 地质等
20%
数学
图论 / 几何 / 拓扑等
100%
强图像依赖
图文不可分离
季度滚动
持续更新
去重 + 复评归档

为什么 AI 模型需要这类题库

多模态模型的真实短板

当前多模态模型在图像推理上仍存在明显短板,特别是需要专业领域知识结合视觉理解的场景。单纯的"看图说话"能力无法替代图像中隐含的深层逻辑推理。

区分理解 vs. 模式匹配

大学难度图文题目能有效区分模型的真实理解能力与模式匹配(Pattern Matching)。题目需要模型同时理解视觉信息、学科知识和逻辑关系。

极端严格的入库标准

每道题用 5 个顶级模型各跑 5 次,只有模型答对次数 ≤2 次(通过率 ≤40%)才被接受。这意味着题库中的题目代表「当前 AI 的前沿边界」。

研究级能力的试金石

能稳定答对这些题目的模型,才具备真正的研究级推理能力 — 这不仅考验知识储备,更考验跨模态信息的综合处理与深层推理。

四大 STEM 学科 · 32+ 子领域全覆盖

健康与医学 30%

临床医学 · 诊断学 · 基础医学 · 药学 · 公共卫生 · 护理康复
病理切片识别(HE 染色病变诊断) X 光 / CT / MRI 影像解读 12 导联心电图心律失常判断 皮损/眼底/口腔临床图像鉴别 微生物培养与革兰染色病原体识别 解剖结构图功能问答 血涂片/尿沉渣检验解读 药代动力学曲线分析

技术与工程 25%

机械 · 电子电气 · 计算机 · 土木 · 材料 · 能源 · 农业工程
机械零件图/装配图标注解读 电路原理图功能分析与参数计算 金相显微图像材料类型判断 力学分析图内力/弯矩/变形计算 自动控制框图稳定性分析 植物病害图像识别与防治 数据结构图(树/图/堆)算法分析 热力学 T-s/p-V 图效率分析

自然科学 25%

生物学 · 化学 · 物理学 · 地球与环境科学
凝胶电泳/Western blot 结果分析 细胞/组织显微图像结构识别 NMR/IR/质谱推断分子结构 电路图等效电阻/电流方向 地质剖面/地层柱状图构造分析 遗传系谱图推断遗传方式与概率 力学图运动状态分析 生态系统能量流动图效率计算

数学 20%

几何优先 · 组合数学 · 概率统计 · 拓扑 · 代数 · 数论
图论图(欧拉回路判断/色数计算) 平铺/镶嵌图案对称性分析 统计图表(箱线图/散点图)数据推断 拓扑空间/曲面图拓扑性质判断 三视图/投影图三维形状推断 坐标系曲线/曲面函数性质分析 展开图立体还原与表面积计算 含辅助线复杂几何图形角度/面积计算

五模型 × 五次推理 测评流水线

每道题目须经过领域专家出题 → 双人审校 → 自动化测评 → 严格入库的全流程筛选,确保只有最前沿的难题入库。

领域专家出题

出题专家 ≥ 硕士学历,3 年以上教学/研究经验,确保每道题目的学术严谨性和图像依赖性。

双人交叉审校

每道题目经过两名审校专家独立审核,交叉比对,确保答案正确性 ≥ 95%,图像与题干逻辑严格对应。

自动化测评流水线激活

依次调用以下 5 个顶级多模态大模型进行测评:

GPT-5.1 Claude Opus 4.6 Gemini-3.1-Pro Qwen3.6-Plus DeepSeek-V4

5 次推理统计通过率

每模型独立调用 5 次(temperature=0),消除随机波动。汇总 5×5=25 次推理结果,计算总体通过率。

≤40% 严格入库门槛

仅通过率 ≤40%(即每模型 5 次中答对 ≤2 次)的题目入库。超过此阈值的题目意味着当前模型已能稳定回答,不具前沿挑战价值。

季度滚动复评与自动归档

每季度使用最新模型版本对已入库题目重新测评。若某题目被新模型稳定答对(通过率 >60%),自动降级归档,确保题库始终代表前沿边界。

严格性对比:此标准比 MMMU 等公开基准的筛选标准至少严格 2-3 倍。MMMU 等基准通常只要求单一模型单次推理,而我们采用 5 模型 × 5 次推理的交叉验证机制,大幅提高入库门槛。

合规与隔离 · 零重叠保障

公开评测集隔离

与以下 8 个公开评测集零重叠,通过文本 + 图像双重比对确保隔离:

MMMUMMMU-ProMathVisionMathVista SeePhysDynaMathCMMMUScienceQA

内部去重与内容红线

内部文本 + 图像双重去重,严格禁止以下类型数据:

纯文本/公式截图 装饰性图像 模板化同质数据 图像信息冗余

数据交付 · 即插即用的产品化方案

标准格式:JSON Lines

每行一条完整题目记录,含题目文本、图像(原始尺寸 + 标准裁切)、标准答案、详细解题步骤。兼容主流 LLM 训练框架的数据加载器。

API 调用方式

支持批量拉取全量数据、增量更新订阅(按周/月推送新增题目)。RESTful API + 分页游标,适配自动化训练流水线。

元数据标注

每条数据附带完整元数据:题目 ID / 学科 / 子领域 / 难度 / 原始图像尺寸 / 模型训练推荐尺寸 / 依赖类型 / 审校记录。

面向 AGI 的数据基础设施

看图说话 → 看图推理

多模态模型正从"看图说话"向"看图推理"演进,大学难度图文题库是推动这一转变的关键燃料。

4 大学科 · 32+ 子领域

题库覆盖健康与医学、技术与工程、自然科学、数学四大领域,模拟真实大学考试场景,覆盖本科至研究生水平。

季度滚动 · 持续追踪边界

每季度新增题目并进行复评,自动归档已过时题目,持续追踪模型能力边界,为客户提供最新前沿数据。

服务全球顶级 AI 实验室

客户包括全球顶尖 AI 实验室,用于预训练数据增强、能力评测、课程学习(Curriculum Learning),推动 AGI 前沿研究。

获取 STEM 多模态题库完整目录与样本

DataAssetsAPI 持续扩充 STEM 多模态题库,支持按学科、难度、题型定制化交付。联系我们的数据专家获取完整目录、数据样本与报价方案。