AIHOT
内容
精选全部 AI 动态AI 日报主题收藏
接入
Agent 接入
更多
关于更新日志反馈
内部员工登录
精选全部日报更多
内部员工登录
全部动态
全部一手资讯X论文
标签「评测/基准」清除
今天7月11日 周六
08:17宝玉43Claude Code桌面版面板设计遭吐槽
08:17Elon Musk61Grok 4.5 发布:对实际工作真正有用
08:17Artificial Analysis72中国移动发布 JT-4.1 Flash 236B A21B 非推理模型
07:47Rohan Paul66Perplexity Computer 引入 Grok 4.5 作为编排模型,WANDR 得分 0.328
07:16🚨 AI News | TestingCatalog65Chatbot Arena 与 Artificial Analysis 排行榜本周出现重大变动
06:47Rohan Paul49Grok 4.5 免费版在三个浏览器物理演示中达到 GPT-5.6 Sol 水平
06:38Hacker News 热门(buzzing.cc 中文翻译)6112款模型应用开发对比:GPT-5.6、Grok 4.5、Claude等
02:11Artificial Analysis45AA-Briefcase 基准测试:GPT-5.6 Sol (max) 取得最高 Presentation Elo
00:40🚨 AI News | TestingCatalog55Grok 4.5 与 Muse Spark 1.1 上线 AI/ML 平台测试
00:10Elon Musk25Grok Build 登顶 SWE-Atlas-QnA 基准测试
00:10Elon Musk47Grok-4.5 在实测中领先 OpenAI 新模型
7月10日周五
23:08Chubby♨️55GPT 5.6初体验:Kim称大幅提升但消耗快
16:05Rohan Paul48GPT-5.6 在 DeepSWE 基准测试中以更低成本超越 Fable 5
14:00Ethan Mollick42实验室应发布新模型易对比视图
13:36Orange AI27ChatGPT 的新语音模式达到了一个新的境界… 我老婆社恐犯了… 不敢跟她说话了 😓 另外这个模型还有一个很吓人的点 就是你笑她也笑 笑得特别大声 像疯了一样…
13:33Rohan Paul65GPT-5.6 Sol Pro、Claude Fable 5、Grok 4.5、GLM 5.2 Three.js 编码测试对比
12:28HuggingFace Daily Papers(社区热门论文)49UniClawBench:面向真实世界任务的主动型AI智能体通用基准
11:58Artificial Analysis45GPT-5.6 Sol 登顶物理研究基准 CritPt
11:55数字生命卡兹克75GPT-5.6 上线,ChatGPT 与 Codex 合并
11:26HuggingFace Daily Papers(社区热门论文)43CausalDS:面向数据科学智能体的因果推理基准
10:27Eric35GPT 5.6 Sol 质量远超 Fable,引发惊叹
10:26HuggingFace Daily Papers(社区热门论文)41IdeaGene-Bench:科学谱系推理与谱系驱动想法生成的基准
09:21向阳乔木35GPT 5.6 Sol 辅助开发在线模型对比工具,即将开源
08:35Orange AI20OpenAI 新模型命名引争议:Sol、Terra Luna、Fable 全是币圈梗?
08:27Elon Musk50Grok 4.5 智能体坚持分页审计完 GitHub 仓库
06:56🚨 AI News | TestingCatalog48AI/ML API 将 OpenAI 新模型 GPT-5.6(Sol、Terra、Luna)加入其模型目录
06:30宝玉54四大模型物理引擎测试:Sol Ultra成本高但效果倒退
06:21Hacker News 热门(buzzing.cc 中文翻译)66OpenAI 审计发现 SWE-Bench Pro 约30%任务存在缺陷
06:21Hacker News 热门(buzzing.cc 中文翻译)67在 Databricks 的数百万行代码库上对编码代理进行基准测试
06:21Hacker News 热门(buzzing.cc 中文翻译)52Grok 4.5、GPT-5.5、Claude Opus 4.8 和 Fable 5 应用生成能力实测对比
06:21Hacker News 热门(buzzing.cc 中文翻译)44GLM 5.2 准确度接近人工记账员
05:56🚨 AI News | TestingCatalog76GPT-5.6家族推出,Sol获53.6分
05:31Rohan Paul49GPT-5.6 Sol Ultra vs GPT-5.5 物理测试对比
02:40The Decoder:AI News(RSS)72GPT-5.6 Sol 以三分之一成本接近 Fable 5 基准成绩
02:27Elon Musk82同事件精选Grok 4.5 发布,专注智能体编码与知识工作同一事件,精选展示《推出 Grok 4.5》
01:27Artificial Analysis59Grok 4.5 在 AA-Briefcase 上成为非 Anthropic 模型第一名,兼具前沿智能体知识工作能力与成本时间效率
01:27Artificial Analysis69GPT-5.6 系列评测:Sol 智能指数仅次 Claude Fable 5,成本仅三分之一;领先编码智能体指数
00:27Artificial Analysis57EnterpriseOps-Gym-AA 评测榜单发布:Claude Fable 5 以 51% 领先
7月9日周四
23:49凡人小北26用户 @frxiaobei:Grok 4.5 是第三个惊艳模型
21:46向阳乔木15开始正式评测 Grok 4.5 ,让它开发一个大模型评测Case网站。 目前看,Skill调用准确率不错,看网站开发出来怎么样。
全部 AI 动态
AI 相关资讯全量信息流
全部一手信源资讯推文
全部模型产品行业论文技巧
7月11日
08:17
宝玉@dotey
43
Claude Code桌面版面板设计遭吐槽

Claude Code 桌面版右边 Panel 是相当糟糕的设计,经常让浏览器只看得见一点点(图1) 还有个很糟糕的设计是当任务完成后,生成的结果是不能点击的(图2),需要复制文件名去搜索,对比 Codex 的生成结果就很清晰,点击下就可以预览或者 VSCode 打开。

ClaudeDevs: Claude Code on desktop now has an in-app browser. Claude can pull up docs, designs, or any other site. It can read, clic...

Anthropic编码评测/基准
08:17
Elon Musk@elonmusk
61
关于 Grok Build 和 4.5 版本,最重要的是它对实际工作确实非常有用。

X Freeze: Grok 4.5 just topped Perplexity's WANDR orchestrator evaluation It scored higher than every other tested configuration a...

智能体xAI模型发布评测/基准
08:17
Artificial Analysis@ArtificialAnlys
72
中国移动发布 JT-4.1 Flash 236B A21B 非推理模型

中国移动于 7 月 9 日发布 JT-4.1 Flash 236B A21B 非推理模型,在 Artificial Analysis 智能指数 v4.1 上得分 39,较前代 JT-35B-Flash 显著提升。该模型上下文窗口 256k,仅支持文本输入输出。关键成绩:τ³-Banking 达 28%,领先 DeepSeek V4 Pro(26%)和 GLM-5.2(27%);AA-Omniscience 指数 -10.1,幻觉率降至 43%(下降 20 个百分点);HLE 得分 16.1%,远超 JT-35B-Flash 的 6%。虽与国内前沿模型 GLM-5.2(51)和 Qwen3.7 Max(46)仍有差距,但进步明显。该模型通过中国移动自有 API 提供。

推理模型发布评测/基准
07:47
Rohan Paul@rohanpaul_ai
66
Perplexity Computer 引入 Grok 4.5 作为编排模型,WANDR 得分 0.328

Perplexity Computer 将 Grok 4.5 作为编排模型,在 WANDR 基准测试中得分 0.328,每次试验成本 $4.76。该成绩超越了 Opus 4.8(0.254 分,$9.46)和 GPT-5.6 sol(0.289 分,$2.64)。WANDR 评估需要搜索、计算和多步推理的复杂研究任务。Grok 4.5 以约 Opus 4.8 一半的成本取得最高分,现面向 Consumer Pro 和 Max 订阅用户开放。

Perplexity: Grok 4.5 is now available as an orchestrator model in Computer for Consumer Pro and Max subscribers. We evaluated it aga...

智能体xAI产品更新评测/基准
07:16
🚨 AI News | TestingCatalog@testingcatalog
65
Chatbot Arena 与 Artificial Analysis 排行榜本周出现重大变动

本周 Chatbot Arena 与 Artificial Analysis 排行榜出现重大变动。头部两家实验室地位稳固,但 Grok 和 Muse Spark 排名显著上升,对 Gemini 和 GLM 形成压力,不过与前两名仍有明显差距。推文指出,模型智能提升速度日益关键,实验室需快速迭代以保持竞争力。更频繁的模型发布正为持续学习奠定基础,若趋势延续,排行榜可能最终实现每小时更新,以反映模型独立进化而非依赖低频次大版本发布。发布周期已从季度缩短至月度,年底前双周发布或成新常态。

现象/趋势评测/基准
06:47
Rohan Paul@rohanpaul_ai
49
Grok 4.5 免费版在三个浏览器物理演示中达到 GPT-5.6 Sol 水平

在 atomic_chat 桌面应用中,Grok 4.5 免费版在机器人对战、液压机压碎和卡车跳峡谷三个浏览器物理演示中达到 GPT-5.6 Sol 水平。测试要求模型生成自包含 HTML5 Canvas 代码,处理重力、碰撞检测和帧控制。输出对比:GPT-5.6 Sol 12.9K tokens/$0.51(约7分钟),Grok 4.5 10.8K tokens/免费(约5分钟),Muse Spark 1.1 26.8K tokens/$0.12(约7.5分钟),GLM 5.2 10.9K tokens/$0.02(约12分钟)。物理演示暴露了普通编码基准隐藏的弱点:模型可能用更多 token 描述丰富场景,却难以维持跨帧的力、动量、碰撞时序和可信物体行为。Grok 4.5 目前仅通过 Grok Build 和 Cursor 免费使用。

atomic.chat: Grok 4.5 performed GPT Sol level for free! We gave 4 models the same prompt: build three self-contained HTML5 canvas sce...

xAI编码评测/基准
06:38
Hacker News 热门(buzzing.cc 中文翻译)
61
12款模型应用开发对比:GPT-5.6、Grok 4.5、Claude等

团队根据上次评测反馈,组织了更大规模的模型应用开发对比,12款模型参与,每项任务执行5次。在Doom风格射线投射迷宫任务中,GPT-5.6 Sol和Luna均5/5成功,Grok 4.5以$0.27和62秒实现5/5成功。3D魔方任务中,Claude Fable 5以5/5领先。计算器任务中,Grok 4.5、Claude Opus 4.8和Claude Fable 5均获5/5。

AnthropicOpenAI编码评测/基准
02:11
Artificial Analysis@ArtificialAnlys
45
AA-Briefcase 基准测试:GPT-5.6 Sol (max) 取得最高 Presentation Elo

Artificial Analysis 发布新智能体知识工作基准测试 AA-Briefcase,用于评估模型在复杂项目中的真实知识工作能力。GPT-5.6 Sol (max) 在该基准中取得最高 Presentation Elo,其生成的 PowerPoint 和 Excel 等文件输出在专业呈现上超越所有其他模型。相比前代 GPT-5.5 (xhigh),GPT-5.6 Sol (max) 的 Presentation Elo 提升约 500 分,在模型间视觉对比中预计胜率约 95%。AA-Briefcase 评分结合二元 Rubric 检查与 Analytical Quality 及 Presentation 两两比较。

智能体OpenAI评测/基准
00:40
🚨 AI News | TestingCatalog@testingcatalog
55
Grok 4.5 和 Meta Muse Spark 1.1 已在 AI/ML 平台开放测试。三款模型(含 GPT Sol)均支持在 Playground 和 API 上运行。测试提示词包括水果忍者式切水果、愤怒的小鸟式堡垒倒塌和 Crossy Road 克隆。单次运行成本:GPT Sol $1.63,Grok 4.5 $2.47,Muse Spark 1.1 $1.08。Grok 在三项测试中均表现最佳(物理、流畅度、画面俱佳);GPT Sol 在 Crossy Road 时卡死;最便宜的 Muse Spark 在 Crossy Road 上严重卡顿。

AI/ML API: Grok 4.5 crushed OpenAI & Meta in this test! Cost per run: GPT Sol $1.63 Grok 4.5 $2.47 Meta Muse Spark 1.1 $1.08 The th...

MetaOpenAIxAI编码
00:10
Elon Musk@elonmusk
25
Grok Build 【引用 @XFreeze】:Grok 4.5 搭配 Grok Build 在 SWE-Atlas-QnA 基准测试中以 84 分排名第一 这使其与 GPT-5.6 (max) Codex 持平,并领先于 Claude Code Fable 5 (max)、Opus 4.8 (max) 以及其他所有经过测试的编码方案 Grok Build 现在是智能体开发者工作流中最强大的工具

X Freeze: Grok 4.5 with Grok Build just ranked #1 on the SWE-Atlas-QnA benchmark with a score of 84 That puts it level with GPT-5....

OpenAIxAI编码评测/基准
00:10
Elon Musk@elonmusk
47
Grok 正在闭环真实世界用例。

Thibault Jaigu: @OpenAI released 3 new models yesterday and we immediately tested it on our internal benchmark. All three outperforming ...

OpenAIxAI大佬观点评测/基准
7月10日
23:08
Chubby♨️@kimmonismus
55
奇怪。我对 GPT 5.6 的第一印象是它其实非常好。相比 5.5 有巨大提升,虽然不如 Fable 5 那样强大和神奇。但仍然是巨大飞跃,到目前为止:我很喜欢它。(但速率消耗太快)

David Ondrej: first impressions of GPT 5.6 are not good...

OpenAI推理评测/基准
16:05
Rohan Paul@rohanpaul_ai
48
GPT-5.6 在 DeepSWE 基准测试中以更低成本超越 Fable 5

GPT-5.6 在 DeepSWE 编程智能体基准测试中达到约 72%-73% 的解决率,每任务成本约 $8.4;而 Claude/Fable-5 最高约 70%,每任务成本高达 $13-$22。DeepSWE 要求模型在真实开源仓库中完成长周期软件工程任务,涵盖仓库导航、错误诊断、代码编辑、工具使用、测试运行及多步修复,共涉及 91 个仓库和 5 种语言的 113 个任务。该基准通过程序验证器检查最终补丁是否有效,最佳模型需在最低平均任务成本下解决最多任务。

OpenAI编码评测/基准
14:00
Ethan Mollick@emollick
42
实验室应该推出一些易于查看的新模型对比:向我们展示 Luna xHigh、Terra Medium 和 Sol Low(或类似 Haiku、Sonnet、Opus、Fable)的作品样貌。 错误率如何变化?人们何时选择哪个?需要帮助。
大佬观点评测/基准
13:36
Orange AI@oran_ge
27
ChatGPT 的新语音模式达到了一个新的境界… 我老婆社恐犯了… 不敢跟她说话了 😓 另外这个模型还有一个很吓人的点 就是你笑她也笑 笑得特别大声 像疯了一样…
OpenAI评测/基准语音
13:33
Rohan Paul@rohanpaul_ai
65
博主@thehypedotnews 测试了 GPT-5.6 Sol Pro、Claude Fable 5、Grok 4.5 和 GLM 5.2 的 Three.js 3D 场景编码能力。Sol Pro 定价 $5/M 输入、$30/M 输出,宣称 SOTA 编码。三城测试总成本:Grok 4.5 最低 $0.41,GLM 5.2 $1.45,Sol Pro $4.12,Fable 5 最高 $11.37。Sol Pro 代码经 Opus 4.8 评审:使用现代 R164 栈,但玻璃反射缺失、未做实例化合并、阴影粗糙。结论:前沿模型更擅长生成好看的第一印象而非严格遵循详细视觉工程规范,GLM 5.2 竞争力显著。

thehype.: gpt 5.6 sol pro vs claude fable 5 vs grok 4.5 vs glm 5.2 today @OpenAI released the gpt-5.6 family - sol (flagship), ter...

AnthropicOpenAI图像生成编码
12:28
HuggingFace Daily Papers(社区热门论文)
49
UniClawBench:面向真实世界任务的主动型AI智能体通用基准

大语言模型与多模态大语言模型的发展催生了能操作工具的主动型AI智能体。现有基准多依赖沙盒环境与单轮评估,且基于场景的任务分类混杂多种能力,难以定位失败根源。UniClawBench是首个能力驱动的基准,围绕技能使用、探索、长上下文推理、多模态理解与跨平台协调五项基础能力,设计了400个双语真实世界任务。评测在实时Docker容器中进行,通过细粒度检查点评估,并采用执行、隐藏监督与用户智能体构成的闭环策略模拟多轮人类反馈。该基准与代码已公开。

智能体开源生态论文/研究评测/基准
11:58
Artificial Analysis@ArtificialAnlys
45
GPT-5.6 Sol (max) 在 CritPt 基准测试中成为新领先者,该基准测试的是未发表的研究级物理问题。 CritPt 由 Argonne 和 UIUC 开发,测试模型在研究生级物理研究问题上的表现,这些问题由全球 30 多个机构的 60 多位研究人员贡献。GPT-5.6 Sol (max) 相比其前代 GPT-5.5 (xhigh) 提升约 5 分,领先 Claude Fable 5 约 4 分。 祝贺 @OpenAI 和 @sama 取得这一成果,表明该模型在前沿科学研究方面具有强大潜力。
OpenAI推理评测/基准
11:55
数字生命卡兹克@Khazix0918
75
GPT-5.6 上线,ChatGPT 与 Codex 合并

OpenAI 发布 GPT-5.6,包含旗舰模型 Sol、均衡模型 Terra 及低成本模型 Luna。ChatGPT 与 Codex 应用正式合并,原 Codex 界面成为新版 ChatGPT 主体,仅保留聊天 Tab。GPT-5.6 Sol 在 Agents' Last Exam 中以 53.6 分刷新纪录,比 Claude Fable 5 高 13.1 分;中等推理模式下以约四分之一成本领先 11.4 分。在 Artificial Analysis 编程智能体指数中,Sol 以 80 分创下标杆,输出 token 减少一半以上,耗时缩短一半以上,成本降低约三分之一。ExploitBench 上得分为 73.5%,网络安全效果接近 Fable 5 但成本极低。Sol 包含在订阅计划中,用户可直接使用。

智能体OpenAI推理模型发布
关联讨论 19 条X:歸藏 (@op7418)X:Sam Altman (@sama)X:OpenAI (@OpenAI)X:OpenAI Developers (@OpenAIDevs)Simon Willison 博客MarkTechPost(RSS)IT之家(RSS)公众号:数字生命卡兹克Hacker News 热门(buzzing.cc 中文翻译)OpenAI:官网动态(RSS · 排除企业/客户案例)The Decoder:AI News(RSS)X:OpenRouter (@OpenRouter)X:宝玉 (@dotey)X:Kim (@kimmonismus)X:Greg Brockman (@gdb)X:Testing Catalog (@testingcatalog)TechCrunch:AI(RSS)公众号:卡尔的AI沃茨X:Jason Liu (@jxnlco)
11:26
HuggingFace Daily Papers(社区热门论文)
43
CausalDS:面向数据科学智能体的因果推理基准

大语言模型(LLM)正越来越多地充当集成式数据科学智能体,但现有基准测试要么缺乏真实数据分析的符号因果推理,要么缺少基于因果的数据生成结构。CausalDS 是一个评估智能体数据科学工作流中因果推理能力的基准。每个实例包含一个采样的结构因果模型(SCM)、生成的观测数据及合成自然语言故事。任务覆盖 Pearl 三阶梯,多数包含数据科学编码组件,模型需使用多种工具处理不完美观测。基准将“无法回答时主动弃权”作为一等评分项,联合评估符号因果推理、数据科学、不确定性量化、弃权及工具使用/编码能力。

智能体推理论文/研究评测/基准
10:27
Eric@ericmitchellai
35
这么多阶跃式变化,就像我们在爬楼梯机。

Soumitra Shukla: I have now updated this to 5.6 Sol. It's the best model I've used by far. I gave it the same workflow across two differe...

OpenAI评测/基准
10:26
HuggingFace Daily Papers(社区热门论文)
41
IdeaGene-Bench:科学谱系推理与谱系驱动想法生成的基准

现有基准很少检验AI系统能否理解科学想法的继承结构。IdeaGene-Bench(IG-Bench)是一个用于科学谱系推理和谱系驱动想法生成的基准,基于IdeaGene框架:每篇论文或提案被表示为最小化、带类型、有证据支持的Idea Genome对象集合,GenomeDiff通过六种进化动力学记录继承、突变、丢失、外部引入和新插入。基准包含1,961条黄金谱系轨迹、1,085个Idea Genome对象和920条成对GenomeDiff记录,覆盖10个科学领域。IG-Exam(42种任务类型,1,029个实例)测试封闭式谱系推理;IG-Arena通过谱系条件种群进化分数(PES)评估生成。在14个基于LLM的科学智能体上,最强系统在谱系推理上仅达到27.3%的精确准确率。

推理论文/研究评测/基准
09:21
向阳乔木@vista8
35
GPT 5.6 Sol 辅助开发在线模型对比工具,即将开源

用户让 GPT 5.6 Sol 接手完成了一个在线模型输出对比工具,用于评测文本和前端任务。该工具支持 HTML 和 Markdown 渲染展示、记录每次执行结果以便抽卡比较、流式输出且结果可导出。用户计划今天或明天将其开源。

编码评测/基准
08:35
Orange AI@oran_ge
20
推文作者测试了 OpenAI 新模型,并对其命名提出质疑。模型名称"5.6 sol"、"terra luna"和"fable"均使用了币圈(加密货币)相关词汇。作者认为这些命名"只能给个顶级"、"只能给个人上人",并调侃"夯爆了还得是颁给 fable",同时困惑 OpenAI 此举是故意还是无意。

代码家: 测了一下 openai 的新模型 5.6 sol,只能给个顶级,terra luna 只能给个人上人, 夯爆了还得是颁给 fable 。 另外我不明白为什么 openai 这次命名要用三个币圈词汇,是故意的还是不小心?🤔

OpenAI评测/基准
08:27
Elon Musk@elonmusk
50
Elon Musk 发推称"Grok 不放弃",引用 @composio 的评测:Grok 4.5 是测试过最持久的智能体模型。在审计 GitHub 仓库硬编码凭证的任务中,提示词明确要求"翻遍所有结果页",GPT-5.5 和 GLM-5.2 均只翻第一页就提交(48 个结果仅提交 18 个,覆盖 29 个受影响文件中的 11 个),而 Grok 4.5 持续翻页直到结果耗尽,成功完成审计。

Composio: Grok 4.5 is the most persistent agent model we've tested. Here's one example: In one of our evals, we asked 3 models (GP...

智能体xAI评测/基准
06:56
🚨 AI News | TestingCatalog@testingcatalog
48
AI/ML API 已将 OpenAI 的 GPT-5.6 三个版本(Sol、Terra、Luna)加入其 1000+ 模型目录,统一 API Key 即可调用。用户可在 Playground 或通过 API 使用,并与堆栈中其他模型对比。引用推文显示定价对比:相同 3 个提示词下,Sol 花费 $4.77,Terra $1.24,而 Anthropic 的 Fable 5 高达 $9.94,Opus 4.8 为 $2.46。输出结果接近,但价格差异悬殊,Fable 5 最贵且近期被削弱。主推文问"谁会胜出?"。

AI/ML API: GPT 5.6 Sol & Terra just made Fable 5's pricing look like a joke! We gave OpenAI's top models (Sol, Terra) and Anthropic...

OpenAI产品更新评测/基准
06:30
宝玉@dotey
54
四大模型物理引擎测试:Sol Ultra成本高但效果倒退

用户用相同提示词测试GPT-5.6 Sol Ultra、Opus 4.8、GPT-5.5和Grok 4.5的物理引擎模拟,三个场景:卡车后空翻砸汽车、赛车飞跃公交车撞砖墙、火车断桥脱轨坠水。Sol Ultra生成3.29万token($0.33),画面仅比GPT-5.5多些细节,但后两个场景物理效果明显更差。结论:花3倍价格得到的是“物理更差、画面稍好”的GPT-5.5。Grok 4.5三项测试搞砸两项,仅“火车脱轨”尚可。

推理编码评测/基准
06:21
Hacker News 热门(buzzing.cc 中文翻译)
66
OpenAI 审计发现 SWE-Bench Pro 约30%任务存在缺陷

OpenAI 对 SWE-Bench Pro 编码评估进行详细审计,发现约30%的任务存在缺陷。该基准旨在改进 SWE-bench Verified,通过长周期和更真实的编码任务追踪智能体编码能力,但在731个公共任务中,前沿模型的通过率在八个月内从23.3%提升至80.3%。审计通过数据点分析流水线标记了200个(27.4%)问题任务,人工标注进一步识别出249个(34.1%)。缺陷分为四类:过于严格的测试、未充分说明的提示、低覆盖测试、误导性提示。OpenAI 建议模型开发者仔细检查结果。

OpenAI编码评测/基准
06:21
Hacker News 热门(buzzing.cc 中文翻译)
67
在 Databricks 的数百万行代码库上对编码代理进行基准测试

Databricks 基于内部数百万行代码库(Python、Go、TypeScript、Scala 等)构建编码代理基准,评估真实编码任务的性能与成本。结果显示,性能前沿包含 OpenAI、Anthropic 及开源模型;GLM 5.2 进入最高能力层,质量与 Opus 4.8 持平,但每任务成本仅 $1.28(Opus 4.8 为 $1.94)。Sonnet 5 每 token 更便宜,但消耗更多 token 导致总成本更高。不同 harness(如 Claude Code/Codex 与 Pi)可带来超 2 倍成本差异。模型 token 价格并非实际任务成本的良好指标。

AnthropicOpenAI推理编码
06:21
Hacker News 热门(buzzing.cc 中文翻译)
52
Grok 4.5、GPT-5.5、Claude Opus 4.8 和 Fable 5 应用生成能力实测对比

评测对比四款模型在相同提示下生成单文件 HTML 应用的能力。三轮任务中:3D 魔方(Claude Opus 4.8 与 Fable 5 首次成功,Grok 4.5 重试后成功,GPT-5.5 仅渲染单面)、粒子沙盒(GPT-5.5 效果最佳)、打砖块游戏(均一次完成高品质结果)。附加 SVG 测试中 Fable 5 最具创意。速度与成本实测:Grok 4.5 首 token 延迟 0.44s、吞吐 110 tok/s、成本 0.002¢/次,速度性价比领先;GPT-5.5 中位延迟 2.0s、成本 0.004¢;Opus 4.8 均衡;Fable 5 最慢最贵(6.3s 延迟,0.009¢)。结论:Grok 4.5 在速度和性价比上领先,Claude 在复杂状态任务上更可靠。

AnthropicxAI编码评测/基准
06:21
Hacker News 热门(buzzing.cc 中文翻译)
44
GLM 5.2 准确度接近人工记账员

开放权重模型 GLM 5.2 在英国小企业季度增值税申报测试中,处理 59 笔交易耗时 68 分钟,原始 token 成本 2.73 美元,最终净头寸(Box 5)与人工申报仅差 7 便士。测试使用 Fireworks AI serverless tier(FP16 或 FP8 量化),上下文窗口达 1,048,576 tokens。模型通过预认证 CLI 工具与云端会计软件交互,每笔交易从 6 个维度评分,整体结果基本正确。

智能体行业动态评测/基准
05:56
🚨 AI News | TestingCatalog@testingcatalog
76
OPENAI 👀:GPT-5.6 是大多数智能体任务日常使用的良好候选。 > 在 Agents' Last Exam 中,GPT-5.6 Sol 创下 53.6 分的新高。 目前,许多用户首先获得了 Luna 和 Terra 的访问权限,这些模型将针对不同应用分别推出。 测试时间已开始 🤖

OpenAI: Sol, Terra, and Luna, our GPT-5.6 family of models, are starting to roll out now in ChatGPT, Codex, and the API.

智能体OpenAI模型发布评测/基准
关联讨论 19 条X:歸藏 (@op7418)X:Sam Altman (@sama)X:OpenAI (@OpenAI)X:OpenAI Developers (@OpenAIDevs)Simon Willison 博客MarkTechPost(RSS)IT之家(RSS)公众号:数字生命卡兹克Hacker News 热门(buzzing.cc 中文翻译)OpenAI:官网动态(RSS · 排除企业/客户案例)The Decoder:AI News(RSS)X:OpenRouter (@OpenRouter)X:宝玉 (@dotey)X:Kim (@kimmonismus)X:Greg Brockman (@gdb)X:Testing Catalog (@testingcatalog)TechCrunch:AI(RSS)公众号:卡尔的AI沃茨X:Jason Liu (@jxnlco)
05:31
Rohan Paul@rohanpaul_ai
49
GPT-5.6 Sol Ultra vs GPT-5.5 物理测试对比

Atomic Chat 在 HTML5 物理演示测试中对比 GPT-5.6 Sol Ultra、Opus 4.8、GPT-5.5 和 Grok 4.5,要求生成三个自包含 canvas 场景(怪物卡车后空翻压车、特技车飞越六辆巴士撞墙、火车出轨落水)。输出:Sol Ultra 消耗 32.9K tokens($0.33),GPT-5.5 仅 12.4K tokens($0.11),成本为 3 倍但物理效果更弱——画面细节更丰富,却在力、动量、碰撞时机等关键物理表现上不及前代。Opus 4.8 花费 $0.24,Grok 4.5 花费 $0.08 且失败两个测试。该测试揭示普通编码基准隐藏的弱点:模型能用更多 token 描绘丰富场景,却仍无法处理核心物理逻辑。

atomic.chat: GPT-5.6 Sol Ultra lost to GPT-5.5 on physics at 3× the cost! We gave 4 models the same prompt: build three self-containe...

OpenAI编码评测/基准
02:40
The Decoder:AI News(RSS)
72
GPT-5.6 Sol 以三分之一成本接近 Fable 5 基准成绩

OpenAI 新旗舰 GPT-5.6 Sol 在 Artificial Analysis 的 Intelligence Index 上获 59 分,仅比 Claude Fable 5 低 1 分;在 Coding Agent Index(Codex 环境)中以 80 分位居第一,AA-Briefcase 的 Presentation Elo 得分最高,但整体排名仍落后于 Fable 5。Sol 每次任务成本 1.04 美元,约为 Fable 5 的三分之一。小变体 Terra 和 Luna 成本分别再低 50% 和 80%。GPT-5.6 首次引入缓存写入费,输入/输出 token 每百万 $5/$30(Sol)、$2.50/$15(Terra)、$1/$6(Luna),缓存读取享 90% 折扣。Sol 在智能体编码任务中比同类模型少耗用最多 54% 的输出 token。

AnthropicOpenAI模型发布编码
关联讨论 19 条X:歸藏 (@op7418)X:Sam Altman (@sama)X:OpenAI (@OpenAI)X:OpenAI Developers (@OpenAIDevs)Simon Willison 博客MarkTechPost(RSS)IT之家(RSS)公众号:数字生命卡兹克Hacker News 热门(buzzing.cc 中文翻译)OpenAI:官网动态(RSS · 排除企业/客户案例)The Decoder:AI News(RSS)X:OpenRouter (@OpenRouter)X:宝玉 (@dotey)X:Kim (@kimmonismus)X:Greg Brockman (@gdb)X:Testing Catalog (@testingcatalog)TechCrunch:AI(RSS)公众号:卡尔的AI沃茨X:Jason Liu (@jxnlco)
02:27
Elon Musk@elonmusk
同事件精选82
昨日 xAI 发布 Grok 4.5,侧重智能体编码与知识工作。在全新专有基准 AA-Briefcase 上得分 1328,较 Grok 4.3 提升 578,是非 Anthropic 模型最高分,仅次于 Claude Fable 5(1390)等。任务平均成本 $1.12,比 Claude Opus 4.8 (max) 低 86%;平均耗时 12.4 分钟,约为 Opus 4.8 (max) 的一半,主要因单任务仅 23 轮交互。该基准基于数千个复杂文件中的真实任务。

Artificial Analysis: Grok 4.5 is the top non-Anthropic model on AA-Briefcase, combining frontier agentic knowledge work capabilities with lea...

智能体xAI模型发布评测/基准
同一事件,精选展示《推出 Grok 4.5》
推荐理由:Grok 4.5 在知识工作 agent 基准上跑到了非 Anthropic 模型第一,成本仅为 Claude Opus 4.8 的 14%,速度快一倍,做 agent 的可以认真考虑了。
01:27
Artificial Analysis@ArtificialAnlys
59
Grok 4.5 在 AA-Briefcase 上成为非 Anthropic 模型第一名,兼具前沿智能体知识工作能力与成本时间效率

昨日 xAI 发布 Grok 4.5,在全新基准 AA-Briefcase(测试智能体知识工作,涉及电子表格、演示文稿、UI 原型等真实任务)上取得 1328 Elo,较 Grok 4.3 提升 578 分,为非 Anthropic 模型最高分,仅次于 Claude Fable 5(1390)、Claude Sonnet 5 max(1390)和 Claude Opus 4.8 max(1354)。同时成本效率领先:每任务平均 $1.12,比 Opus 4.8 max 低 86%;耗时 12.4 分钟,约为其一半,主要得益于仅 23 次交互轮次(仅 Sonnet 5 max 的 13%)。

智能体xAI编码评测/基准
01:27
Artificial Analysis@ArtificialAnlys
69
GPT-5.6 系列评测:Sol 智能指数仅次 Claude Fable 5,成本仅三分之一;领先编码智能体指数

Artificial Analysis 公布 GPT-5.6 系列评测。Sol(max)智能指数 59 分,比 Claude Fable 5(max)低 1 分,每次任务成本 $1.04,约为后者三分之一。Coding Agent 指数中 Sol(max)以 80 分领先,覆盖 DeepSWE、Terminal-Bench v2 和 SWE-Atlas-QnA 三项评估,成本比 Fable 5(max)低约 40%。Terra(max)和 Luna(max)智能指数分别为 55 和 51 分,成本更低。GPT-5.6 首次引入缓存写入定价,Sol/Terra/Luna 的输入/输出 token 价格分别为 $5/$30、$2.5/$15 和 $1/$6 每百万 token,缓存写入加价 1.25 倍。

AnthropicOpenAI推理编码
00:27
Artificial Analysis@ArtificialAnlys
57
EnterpriseOps-Gym-AA 评测榜单发布:Claude Fable 5 以 51% 领先

Artificial Analysis 与 ServiceNow 联合发布企业级 AI 智能体评测 EnterpriseOps-Gym-AA,基于原始基准适配 Stirrup 框架。任务覆盖 8 个业务域、164 张数据库表、512 个 MCP 工具,通过最终数据库状态的 SQL 检查评分(结果导向)。当前榜单:Anthropic Claude Fable 5 (max) 以 51% 领先,Google DeepMind Gemini 3.5 Flash (high) 50%,OpenAI GPT-5.5 (xhigh) 47%,智谱 GLM-5.2 (max) 43%(开源最高),DeepSeek V4 Pro 和 Kimi K2.7 各 40%。全部模型在 1,117 项 oracle 任务中仅完成约一半,领导者单项检查通过率 79%,完整任务完成率仅 51%。

智能体AnthropicDeepSeekMCP/工具
7月9日
23:49
凡人小北@frxiaobei
26
用户 @frxiaobei:Grok 4.5 是第三个惊艳模型

用户称 Grok 4.5 能力与 Opus4.8 相当,是第三个惊艳模型。前两个:Claude Fable 5 深度远超 Opus4.8,花光一周配额;DeepSeek v4-flash(关 thinking)非编程场景接近 sonnet4.6,花费低。猜测第四个是 GPT-5.6,但用 GPT-5 体验差,问 Google 为何沉寂。

凡人小北: 让我惊艳的两个模型: Claude Fable 5,周末深度用了两天,花光了一周的配额,在深度上这个模型远远超过 opus 4.8,智能的天花板还很高,期待下一个阶段。 DeepSeek v4-flash(关掉 thinking),非编程场...

DeepSeekxAI评测/基准
21:46
向阳乔木@vista8
15
开始正式评测 Grok 4.5 ,让它开发一个大模型评测Case网站。 目前看,Skill调用准确率不错,看网站开发出来怎么样。
xAI评测/基准
‹ 上一页
123…25
下一页 ›