AI星际引擎AI STARSHIP
2026.11.08 星期日
第 94 期
主题 · 基准测试

基准测试

15 条
  1. 01
    MaxxBench——‘DeepSWE得分很高,但真实吗?’

    质疑新型AI基准测试MaxxBench中DeepSWE子项的评估有效性与现实任务对齐度

    maxxbench.unlap.ai·Hacker News·16小时前·▲ 34基准测试评估方法可靠性
  2. 02
    OpenAI 发布 BioBasicsBench:评估 AI 智能体处理湿实验科学任务的能力

    OpenAI 推出含 100 项任务的基准测试 BioBasicsBench,量化评估 AI 智能体解析原始实验数据与执行基础湿实验任务的能力。

    openai.com·OpenAI·2天前技术进展基准测试科学智能体
  3. 03
    XStack:面向ML代码库迁移的基准测试

    提出XStack基准,评估PyTorch与JAX生态间整库迁移能力,覆盖跨框架、跨硬件、长周期迁移挑战

  4. 04
    BEAKER:面向自动驾驶化学实验室中具身智能体的专家构建基准

    构建首个聚焦执行能力的化学实验室具身智能体基准,覆盖感知、推理、安全约束下的实验操作任务。

    arxiv.org·arXiv·4天前具身智能科学智能基准测试
  5. 05
    FrontierPhysics:面向端到端物理研究的智能体评测基准

    由42位物理学家设计的56项真实科研任务基准,首次从研究质量与正确性双维度评测AI物理智能体。

    arxiv.org·arXiv·4天前科学智能AI代理基准测试
  6. 06
    CompressionBench:你的代码智能体如何压缩大语言模型?

    构建首个评测代码智能体自主完成LLM压缩能力的基准,将模型压缩定义为需满足存储/环境/时间约束的终端任务。

    arxiv.org·arXiv·4天前模型压缩AI代理基准测试
  7. 07
    AmbiHTMLBench:面向HTML表示的视觉丰富文档解析基准

    提出首个以HTML为输出目标的文档解析基准,解决Markdown无法保留空间结构的问题,推动结构化文档理解标准化。

    arxiv.org·arXiv·4天前文档解析基准测试HTML生成
  8. 08
    a16z 播客:能购物、规划与闲聊的新一代 AI 代理

    探讨多智能体协同架构趋势,基于 140+ 助手实测分析记忆、信任与跨代理通信能力

    a16z.simplecast.com·a16z Podcast·4天前AI Agent多智能体基准测试
  9. 09
    基于稀疏且未配对缓存响应的基准预测

    提出PKPS方法,从稀疏不匹配的模型响应矩阵中构建低维模型表征,实现跨任务/跨查询的高效公平评估。

    arxiv.org·arXiv·6天前模型评估基准测试稀疏数据
  10. 10
    LifeVal:评估AI辅助日常任务完成能力的新基准

    OpenAI发布LifeVal基准,量化AI在育儿、理财、政务等真实生活任务中的实用效能。

    openai.com·OpenAI·6天前基准测试AI应用实用性评估
  11. 11
    TRIDENT与SHAKTI:印地语AI文本检测的框架与基准

    发布首个大规模印地语AI文本检测基准SHAKTI,覆盖四类文体、八大家族模型及对抗扰动,填补低资源语言检测研究空白。

    arxiv.org·arXiv·10/30AI检测多语言AI基准测试
  12. 12
    从评估到演化:图像编辑评测与图像模型演进

    发布WeGenEditBench基准,含2740个实例与148类编辑任务,支持定位失败并驱动图像生成模型迭代优化。

  13. 13
    ATLAS-Bench:面向本地区域搜索的智能体工具使用基准

    发布ATLAS-Bench——首个聚焦真实场景约束(时间、位置、强制要求、偏好、评论依据)的本地搜索智能体评测基准。

  14. 14
    Artificial Analysis v5 与评测者的困境

    发布AI模型评测工具Artificial Analysis v5,探讨当前大模型基准测试的局限性与方法论挑战。

    interconnects.ai·Hacker News·10/28·▲ 23模型评测基准测试工具发布
  15. 15
    Auto-Research Arena:面向语言建模的自动研究评测与推进框架

    提出多目标Auto-Research Arena基准,支持对自主研究系统在语言建模中发现新思想的能力进行相容性与改进性分离评测。