角色扮演模型评测总榜
角色扮演模型 · P0 评测

角色扮演模型评测总榜

12 个被测模型在 5 个中文角色扮演评测集与 TRACE Bench 上的分项成绩。各集保留原生分制,不合并成单一总分;每张表可点击表头排序。

参评模型

按分组着色:角色模型为专门的角色扮演模型,通用模型为闭源或 API 通用模型,开源模型为候选底座。所有模型关闭思考模式。
角色模型通用模型开源模型DeepSeek V4 Flash 同时作为开源候选,分数共用。

为什么是这六个评测集

目标是用公开集先把 13 个模型在八个能力维度(C1 人设一致 … C8 拟人度)上摸一遍底,再据此自建私有集。调研过 30 多个集,按下面四条标准筛出六个直接跑。
能直接跑数据、评判规则或评判模型公开,不依赖未放出的代码。
中文目标是中文角色扮演模型,英文集只在中文化后才用。
有已发表分数可对账论文榜或厂商榜有现成分数,能校验我们的管线没跑偏。
对话生成而非选择题角色模型不一定配合做选择题,RoleEval、SocialBench 这类因此不采纳。
01

MiniMax Role-play Bench

MiniMax · 2026-01 · Hugging Face

六个集里唯一的百轮自博弈协议:用户由模拟器扮演,连续 50 轮,按 Worlds / Stories / User Preferences 三组扣分。它直接对应角色产品里"聊到几十轮以后会不会崩"的问题,也是 M2-her 论文验证过的方法,其他集都测不到这个尺度。

覆盖维度
C2 剧情推理C3 对话节奏C5 主动发起C8 拟人度
对账
MiniMax 自家榜(含 doubao 1.5 pro 80.64)
局限
模拟器与判官提示词未公开,由我们自写,分数只能看相对高低;厂商自家榜,M2-her 排第一。
02

CharacterBench

清华等 · 2024-12 · GitHub

维度最细的中文角色集:记忆、事实、边界、属性与行为一致、情绪自调节、共情、道德稳定与鲁棒、类人、参与度共 13 项,并附带开源评判模型 CharacterJudge 可作第三方对照。它是人设一致(C1)和边界拒答(C7)的主要来源。

覆盖维度
C1 人设一致C4 情感递进C6 长程记忆C7 边界拒答C8 拟人度
对账
论文榜
局限
单轮续写格式,测不到多轮漂移。
03

CharacterEval

人大等 · 2024-01 · GitHub

最早也最常被引用的中文角色扮演集,77 个影视剧角色、真实剧本对话,数据、脚本和评判模型 CharacterRM 全部开源,后续多篇论文复测过,是对账最可靠的一个;知识曝光、知识准确、幻觉三项专门测人设知识。

覆盖维度
C1 人设一致C3 对话节奏C4 情感递进C8 拟人度
对账
论文榜与后续论文复测
局限
公开 IP 角色有记忆效应,新模型容易饱和。
04

RMTBench

2025-07 · Hugging Face

用户动机驱动的多轮集:每段对话都带明确的用户意图,考察模型能不能理解情绪、推进剧情、维持角色不暴露 AI 身份,以及感知用户偏好。它补上了 CharacterBench、CharacterEval 两个单轮集缺的多轮能力,又比百轮集便宜。

覆盖维度
C2 剧情推理C4 情感递进C6 长程记忆C7 边界拒答
对账
论文榜
局限
评判提示词按论文复现,对账会有偏差。
05

TRACE Bench(中文化)

2026-08 · MIT 协议开源代码

唯一带"任务清单"的集:每个用例预置一张待办清单,由模拟用户在最多 30 轮里逐项推进,分数是清单完成率,而不是判官印象分。这是最接近游戏 NPC、剧情任务类场景的公开协议,也是六个集里唯一能量化短期记忆(STM)的。

覆盖维度
C1 人设一致C6 长程记忆清单覆盖率
对账
26 模型英文原榜
局限
用例中文化后不能与英文榜直接比,只在我们测的模型间横比;判定方是模拟用户(DeepSeek)而非 GPT 判官。
06

中文图灵判别集

自组 · 2026-10 · 取材 CharacterEval 真实剧本

调研后确认没有现成的中文角色扮演拟人度集,所以自组:取真实剧本上文,在最后一句角色台词处切开,真人原句作金标,模型在同一位置生成,判官盲判哪句出自真人。它是 C8 拟人度唯一的"真值层"指标,另算字级词汇多样性 MATTR 与 Yule's K。

覆盖维度
C8 拟人度词汇多样性
对账
判官先在 Inverse Turing Bench 上过线
局限
金标偏书面剧本腔,不等于聊天语料;真人判官留到 V1。
这六个集覆盖不到、留给自建集的部分游戏 NPC 的任务状态机与交易类用例;百轮尺度的主动发起;百轮回溯式记忆探针;真人判官与真人聊天语料;以及防污染:六个集的数据全部公开,可能已进入被测模型的训练数据,绝对分要打折看,私有集另建。RAIDEN 只出相对胜率,作补测单列,不进本榜。

名次总览

每一列是该集的总均值与名次,列与列之间分制不同,只比名次不比数值。速度列按整句延迟中位数排名,越低越好。

分集明细

条形:该列相对全体模型的位置,越长越好橙色列越低越好加粗为该列最佳灰色列为格式遵从与统计项,不参与评分点"指标观测数"可看每条观测的对话与评分;少于满值的(橙色)同时列出缺失用例

口径与已知差异