首页
学习
活动
专区
圈层
工具
发布
技术百科首页 >Agent 评估 >GAIA 基准在 Agent 评估中重点考察哪些能力?

GAIA 基准在 Agent 评估中重点考察哪些能力?

词条归属:Agent 评估

1. 任务结构

  • 共 466 道人工标注任务,答案为唯一可验证短文本,采用精确匹配评分
  • 分三级难度:一级少于 5 步、二级 5~10 步多工具、三级 10 步以上(任意长短)的长程规划

2. 考察能力

  • 网页浏览、文件处理(PDF / 表格 / 图片 / 音频)、计算、跨多源信息综合与逻辑推理

3. 表现水平

  • 人类基线整体约 92%;2026 年领先 Agent(如 HAL 榜 Claude Sonnet 4.5)整体约 74.6%,一级约 82%、二级约 73%、三级约 65%,整体仍显著低于人类 92%,三级差距揭示当前 Agent 在长程推理上的主要短板
相关文章
GAIA 测评体系
GAIA 全称是 “General AI Assistant”。它的目标不是只评估一个大语言模型(LLM)能不能写一段自然语言回答,而是评估它能不能像“智能助理”一样,去完成一项现实世界的小型任务。
吃猫的鱼Code
2025-11-04
2.1K0
统一20+多智能体方法,MASLab震撼发布
OpenAI 在通向 AGI(通用人工智能)的五大阶段中,将「组织级」智能列为最终目标:即 AI 能像一个组织般管理复杂流程、决策高层任务、协调大规模操作。 近两年来,大量多智能体系统(Multi-Agent Systems, MAS)研究陆续涌出,不断朝这这一里程碑迈进。
机器之心
2025-06-15
4910
人类考92分的题,GPT-4只能考15分:测试一升级,大模型全都现原形了
GPT-4 自诞生以来一直是位「优等生」,在各种考试(基准)中都能得高分。但现在,它在一份新的测试中只拿到了 15 分,而人类能拿 92。
机器之心
2023-11-27
8860
Agent评测机制概述
随着基于大语言模型的智能代理(LLM-based Agents)迅速走向实际应用,如何有效评估这些系统的真实能力成为关键问题。表面上的流畅对话或单一任务完成率已不足以判断Agent在复杂环境中的可靠性。
tunsuy
2026-04-09
1.5K0
AGI梦想照进现实?GAIA测试告诉你AI助手还有多远的路要走
前段时间,随着Manus的迅速走红,社会各界重新掀起了关于AGI(Artificial General Intelligence,通用人工智能)的热议。这一直是众多科技公司梦寐以求的发展目标。AGI旨在构建一种能够完成现今人类大部分工作任务的智能系统,从而在未来带来根本性的社会变革——在那个时代,机器人可以接管大部分繁重或重复性工作,而人们则能够更多地享受生活、发挥创造力。
Lion 莱恩呀
2025-03-29
9800
点击加载更多
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
领券