用狼人杀给「谎言」一个标准答案

过去的欺骗检测研究多围绕单人陈述或两人对话展开,但现实中的谎言往往夹在追问、站队、辩护与群体压力中,并随新信息不断变化,通常不存在绝对可靠的标准答案。研究团队选择了「一夜终极狼人」作为实验环境,正因这款游戏同时解决了上述两个问题:每名玩家都有隐藏身份,夜间行动决定了其掌握的信息,白天发言则体现判断与策略;由于角色、行动和游戏规则均可追溯,研究者可以判断某句话是否违背了说话者当时掌握的信息。因此,MIDA 判断的不是一个人「看起来像不像在撒谎」,而是他明明知道什么,却说了什么。

基准规模:2360 条发言,两个难度子集

MIDA 共包含 2360 条发言:819 条来自 Ego4D 的 40 局线下游戏,1541 条来自 151 段 YouTube 游戏视频,形成自然的难度梯度——线下参与者以新手为主,YouTube 玩家则更有经验、更擅长复杂欺骗策略。每条样本都包含视频、音频、对话历史与游戏规则,并被标注为真、假或中性。这里的「中性」并非态度中立,而是指它不包含能够根据说话者当前知识状态核验的事实,例如提问、猜测、意见或假设。角色、夜间行动与投票结果只用于构建可验证的真值标签,并不会在测试阶段提供给模型。

MIDA:狼人杀测出社交盲区 基准规模 2360 条发言 Ego4D 819 + YouTube 1541 真 / 假 / 中性 标注 被测模型 GPT-4o / GPT-5 / Gemini Claude / Qwen / DeepSeek Llama / InternVL 等 关键结果 GPT-4o 总体 74.0% 二分类仅 27.6% 对假话 F1 为 0 实验设计 一夜终极狼人可控环境 角色/行动/规则可追溯 判「知什么、说什么」 方法 SoCoT 社会思维链 + DSEM 动态社会认知记忆;去掉对话历史,GPT-4o-mini 真假分类从 39.4% 骤降至 13.4% 意义 大模型是知识引擎而非社会智能体,缺他人心智的持续建模;论文被 EMNLP 2026 主会接收 来源:arXiv:2511.16221(L1,EMNLP 2026)+ 项目主页 / Hugging Face(L2)
人类一句「我不是狼」,多模态大模型既看得见表情也听得见声音,却未必分得清真假。MIDA 用狼人杀给谎言一个可验证的标准答案,结果暴露出:今天能力较强的多模态模型,依然很难真正「读懂空气」。

关键结果:总体准确率掩盖真实短板

研究覆盖 GPT-4o、GPT-5、Gemini、Claude,以及 Llama、InternVL、Qwen、DeepSeek 等模型。在 Ego4D 子集上,GPT-4o 的总体准确率达到 74.0%,Qwen2.5-VL-7B 达到 76.4%,表面看似乎不差。但 MIDA 中存在大量中性发言,模型只要频繁选择「中性」,就能得到一个看起来不错的总分。当研究者只保留必须判断真假的样本时,结果发生明显变化:GPT-4o 的二分类准确率只有 27.6%,GPT-4o-mini 为 39.4%;Qwen2.5-VL-7B 虽然总体准确率最高,但其对「假话」的 F1 值为 0。最需要社会推理的「身份声明」类发言,各模型平均准确率分别只有 15.7% 与 25.3%。

方法:SoCoT 与 DSEM

团队设计了社会思维链 SoCoT 与动态社会认知记忆 DSEM 两个模块。SoCoT 要求模型先描述面部表情、身体姿态与声音特征,再推测说话者的目标与心理状态,最后给出真假判断,把直觉拆解成可检查的推理步骤。DSEM 则为每位玩家维护一块持续更新的「记忆板」,记录其角色声明、行动、见闻、已知事实与人物关系。消融实验显示:去掉对话历史后,GPT-4o-mini 在真假样本上的准确率从 39.4% 骤降至 13.4%;DSEM 在两类模型上均稳定提升了真假二分类准确率。这说明,判断一句话是真是假,必须记住谁说过什么、谁知道什么,而非仅靠局部视觉线索。

为什么值得关注:大模型是知识引擎而非社会智能体

在会议协作、在线讨论、人机交互、智能客服与多智能体协作等场景中,模型同样需要追踪不同参与者掌握的信息、持续变化的立场及其互动关系。MIDA 暴露了当前多模态大模型的一个能力缺口:它们缺少对他人知识、信念与意图进行持续建模的能力,也就是通常所说的「心智理论」。当模型离开答案明确的视觉问答,进入一个人人掌握不同信息、观点持续变化、甚至会主动影响他人判断的环境时,今天能力较强的多模态大模型,依然很难真正「读懂空气」。MIDA 为更广泛的多人社会推理研究,提供了一个可量化的起点。

信息来源