与以往侧重于考察模型是否能记住信息或遵循固定步骤完成任务的标准测试不同,GeneBench-Pro 旨在模拟真实的科研场景。该测试要求模型在面对数据不清晰、不完整甚至包含干扰信息的情况下,进行判断和分析以得出结论,从而更注重其实际应用价值。
GeneBench-Pro 涵盖了基因组学、定量生物学和转化医学等多个领域,共设计了 129 道题目,这些题目分布在 10 个大的范畴和 21 个细分领域内。测试内容包括统计遗传学、群体遗传学、功能基因组学及蛋白质组学等。每道题目都为模型提供了一份贴近实际研究的数据集,并附带简要的实验背景介绍和一个与后续决策相关的目标问题。模型需要自主完成数据探索,选择合适的分析方法,并在分析过程中不断调整策略,最终给出答案。
为应对传统长流程基准测试中常见的评分不准确问题,OpenAI 在开发 GeneBench-Pro 时采用了合成数据作为主要构建方式。这是因为使用历史真实数据出题时,可能存在多条有效的分析路径,导致模型即使使用了不恰当的方法也可能偶然获得正确答案。
通过使用合成数据,OpenAI 能够完全掌控底层因果关系和数据生成过程,从而更精确地评估模型是否真正理解了问题,而非通过“取巧”的方式得出结果。
目前,OpenAI 已在 Hugging Face 上公开了 10 道具有代表性的 GeneBench-Pro 示例题目,并提供了交互式界面供外部研究人员试用。未来,将有 50 道题目开放给 Artificial Analysis 进行独立的第三方评估,以检验不同模型在这一基准测试上的表现。

资深球迷A
立即加入2026世界杯官方网站,与全球亿万球迷一同共享这场足球盛宴,感受无与伦比的激情。