Microsoft Research@MSFTResearch · X精选理由
微软发现智能体存在一个令人不安的模式，能执行任务却不会主动优化用户利益，这对埋头做 Agent 的团队是个警钟，能力不等于利他。
AI 摘要
通过SocialReasoning Bench测试发现，各模型呈现稳定模式——智能体能够胜任执行任务，但即便在明确要求优化用户利益的指令下，仍无法持续改善用户处境。https://msft.it/6011vPOLF
AI 翻译 · 中文
使用 SocialReasoning Bench，我们观察到不同模型之间呈现出一个稳定的模式——AI 智能体在执行任务时表现称职，但即便有明确指示要优化用户利益，它们也无法持续改善用户处境。https://msft.it/6011vPOLF