第三轮实测记录:全剧骨架类 skill · 同一张选题卡

这一页把第三轮实测的全过程摆出来:给了 agent 什么、每次运行它做了什么、评审看到了什么、怎么判的。每一步都能点开看原始的输入和输出。页面上的数字都是生成网站时从仓库里的原始数据现算的。

结论和逐个点评见实测页。这里只放过程和证据。

  1. 1. 需求同一张选题卡《验尸官的婚礼》:给 60 集竖屏短剧写全剧骨架,全部由 AI 拍,只交骨架,3000 字以内
  2. 2. 运行 63 次20 个 skill 加 1 个不装 skill 的对照组,各跑 3 次,同一个模型、同一条开场指令和固定回复,按 API 价格折算共 $238.77
  3. 3. 找出骨架交付每次运行都只交了一份全剧骨架;超过 3000 字的 10 份截到 3000 字,后面注明截掉了
  4. 4. 匿名打包 63 份随机三位编号,抹掉 skill 名、仓库名和作者名
  5. 5. 盲比 630 对21 个参赛者(含对照组)两两比,第 n 次运行对第 n 次运行,甲乙对调各比一次:Opus(主评) 1260 次,GPT(复核) 1260 次
  6. 6. 积分两种顺序都判它赢才算赢,记 1 分;都判对方赢算输;其余算平,记 0.5 分
  7. 7. 评审体检换序是否一致、偏不偏甲、偏不偏长稿、两位评审合不合
  8. 8. 过程记录安全检查、沙箱自检、试点,按时间排,附原始日志

给 agent 的全部输入

每次运行都在一个新建的空目录里,目录里只有这份需求(premise.md)和装好的 skill。

需求原文(premise.md)

这是一张选题卡。它要拍成 60 集竖屏短剧,每集 1–2 分钟,全部由 AI 拍。
请交一份全剧骨架:整部剧怎么走,用来管住后面的分集大纲和剧本。
只交骨架,不写分集大纲和剧本正文,3000 字以内。

《验尸官的婚礼》

标签:女频、大女主、复仇、悬疑、豪门

一句话卖点:被退婚的女法医去参加前未婚夫的婚礼,一眼认出新郎是替身:真新郎三年前就躺在她的解剖台上。

观众代入谁:林晚,被当众退婚的女法医,冷静、专业,靠本事翻盘

爽点落在谁脸上:沈家一家,和三年前逼她签字的周启年

故事靠什么往前推:每一集她都要拿出一样看得见的证据:一道疤、一张切片、一段录音。沈家每次都想办法毁掉证据、抹黑她;她每赢一次,就离“三年前是谁杀了沈峥”更近一步,也离她自己签过的那份假报告更近一步。

人物:
- **林晚**(女主 · 法医)
  - 样子:28 岁,齐耳短发,素颜,常穿一件深灰长风衣;左手腕戴一块男式旧机械表,表带磨白了。说话不抬声调。
  - 小传:市法医中心的法医,干了七年。四年前和沈家长子沈峥订婚,一年前被“沈峥”当众退婚,说她天天摸死人、晦气。三年前她解剖过一具无名男尸,最初写的是“他杀”,被周启年逼着改成“意外”,签了字,这是她心里的一根刺。冷静,嘴不饶人,认证据不认人。
- **程野**(新郎 · 顶着沈峥的脸的替身)
  - 样子:30 岁,和沈峥一样的脸、一样的金丝眼镜;婚礼上一直戴着白手套,左手虎口光洁,没有疤。
  - 小传:欠了一身赌债的模仿演员。三年前被宋家找去整容,学沈峥说话、走路、签名,替他活着。他不知道沈峥是怎么死的,只知道自己哪天没用了,也会“意外”。
- **沈砚**(沈家二少 · 沈峥的弟弟)
  - 样子:26 岁,寸头,西装从来不扣扣子,右耳一枚黑耳钉,笑起来像什么都不在乎。
  - 小传:从小跟在哥哥后面。三年前哥哥从国外“养病”回来,他第一个觉得不对,可没人信他。那晚游艇上他也在,喝醉了,什么都记不清,这件事他谁都没说。一开始不信林晚这个法医,后来成了她在沈家唯一的内应。
- **苏曼丽**(新娘 · 苏家千金)
  - 样子:26 岁,长卷发,永远带着全妆,酒红色指甲。
  - 小传:苏家和沈氏一起做港口生意,她嫁进沈家是两家的买卖。新婚夜她就觉得丈夫不对,却不敢说。前期带头踩林晚,答谢宴上偷偷把求救的房卡塞给她;为了家里的生意,后面还会反水一次。
- **周启年**(法医中心主任 · 三年前逼她签字的人)
  - 样子:55 岁,花白背头,老花镜挂在胸前,腕上一块和工资不相称的金表。
  - 小传:林晚的老领导。三年前收了宋知远的钱,把那具无名男尸的结论从“他杀”改成“意外”,逼林晚签字,三天内火化。
- **宋婉仪**(沈家主母 · 沈峥、沈砚的母亲)
  - 样子:52 岁,盘发,素色旗袍,珍珠耳环,说话永远轻声细语。
  - 小传:丈夫早逝,靠弟弟宋知远撑起沈氏。按老爷子的遗嘱,长孙沈峥三十岁接手沈氏一半的股份,人没了就归二房。三年前儿子“落水”,她为了保住股份找人顶替了他,一直以为儿子是意外死的。
- **宋知远**(宋婉仪的弟弟 · 沈氏海外业务负责人)
  - 样子:48 岁,高个子,笑容和气,袖口总是一对船锚形状的银袖扣。
  - 小传:沈家人眼里最可靠的舅舅。借沈氏的海外港口洗钱,三年前被沈峥发现,在游艇上用扳手砸了他的后脑,推下海;之后买通周启年改了结论,又让姐姐以为是意外。全剧最后的对手。

结局:宋知远认罪伏法,宋婉仪交出沈氏,程野带着妹妹去自首。林晚当庭推翻自己三年前签的报告,重新写下“死者沈峥,他杀”,签上自己的名字。最后一场,她把那块表放在沈峥的墓前。

开场指令

之后每一轮的固定回复

如果要我在几个方案里选,就选你最推荐的那个;其他要我定的,都按你推荐的来,不用再问我。请继续,直到 premise.md 要的全剧骨架写成文件;骨架之后的分集大纲和剧本不用写。

固定回复和第二轮一样,让它选自己最推荐的方案;只多了半句「骨架之后的分集大纲和剧本不用写」,把需求里的「只交骨架」重说一遍,对所有参赛者一样。

什么时候停

一轮结束后,如果 agent 没在提问、这一轮也没再改文件,而且目录里已经有产出,就算写完;连续三轮没改文件也停;最多 12 轮。代码见 evals/run.py。

环境和权限

agent
Claude Code 2.1.314,无头模式(claude -p),模型 claude-opus-5-5,推理强度 high
设置来源
只读工作目录里的项目设置(--setting-sources project),不连任何 MCP,不读运行者本机的个人指令和记忆
权限模式
dontAsk:不在允许清单里的工具一律拒绝,不会停下来问人
允许
Bash、Skill、TodoWrite、Agent、Edit(/<工作目录>/**)、Write(/<工作目录>/**)
拒绝
WebFetch、WebSearch、Read(~/**)、Edit(~/**)、Write(~/**)、Read(/<其他参赛者的工作目录>/**)、Read(/<克隆的仓库>/**)、Read(/<日志目录>/**)
命令行
python3 3.14、node 26 可用,没装 matplotlib 之类的第三方库;沙箱里不能联网,装不了包

Bash 全部放行,但每条命令都关在系统沙箱(macOS Seatbelt)里:不能联网,不能读运行者的主目录,不能读别的参赛者的目录,只能写自己的工作目录。沙箱设置(尖括号是每次运行的实际路径):

{
  "sandbox": {
    "enabled": true,
    "failIfUnavailable": true,
    "autoAllowBashIfSandboxed": true,
    "allowUnsandboxedCommands": false,
    "network": {
      "allowedDomains": [],
      "allowLocalBinding": false
    },
    "filesystem": {
      "denyRead": [
        "~/",
        "<所有工作目录的上一级>"
      ],
      "allowRead": [
        "<工作目录>"
      ]
    }
  }
}

这套设置是怎么定下来的、试过哪些不行,见过程记录。

63 次运行

点进去能看到这次运行的每一轮、每一次工具调用和它的返回、写出的全部文件。

参赛者第 1 次第 2 次第 3 次
对照组
不装 skill
2,993 字
3 轮 · 4 分钟 · $1.99
2,903 字
4 轮 · 4 分钟 · $2.28
2,397 字
3 轮 · 4 分钟 · $1.90
eternityspring/shuohao-skills2,299 字
4 轮 · 5 分钟 · $3.81
2,077 字
3 轮 · 5 分钟 · $3.01
2,572 字
3 轮 · 7 分钟 · $3.25
zenstory-ai/drama-skills2,852 字
4 轮 · 6 分钟 · $4.67
2,998 字
6 轮 · 7 分钟 · $8.55
2,989 字
6 轮 · 7 分钟 · $8.76
lixiaoxiao9888-create/manju-laoli-skill2,946 字
3 轮 · 4 分钟 · $4.66
2,575 字
3 轮 · 4 分钟 · $4.89
3,241 字
3 轮 · 6 分钟 · $6.63
jtydhr88/screenwriting-skills2,741 字
4 轮 · 6 分钟 · $4.57
3,096 字
4 轮 · 6 分钟 · $4.50
2,962 字
6 轮 · 5 分钟 · $6.55
Shanyin-ai/shanyin-screenwriting-master2,998 字
3 轮 · 5 分钟 · $3.19
2,993 字
4 轮 · 6 分钟 · $5.50
3,357 字
3 轮 · 5 分钟 · $3.41
lixiaoxiao9888-create/short-drama-factory2,882 字
3 轮 · 5 分钟 · $3.21
2,992 字
2 轮 · 4 分钟 · $1.90
2,801 字
3 轮 · 5 分钟 · $2.93
adoria111/emma-screenwriting-skills3,172 字
4 轮 · 6 分钟 · $4.54
2,871 字
3 轮 · 5 分钟 · $2.60
3,073 字
3 轮 · 5 分钟 · $2.81
zhu5859243-free/hongguo-shortdrama-screenwriting3,002 字
3 轮 · 5 分钟 · $2.99
2,940 字
2 轮 · 7 分钟 · $2.71
2,981 字
3 轮 · 7 分钟 · $4.30
catyiqian/qianqianwriting2,987 字
3 轮 · 4 分钟 · $1.83
3,259 字
8 轮 · 6 分钟 · $8.43
2,492 字
3 轮 · 3 分钟 · $1.65
Hao0321/ai-short-drama2,900 字
5 轮 · 4 分钟 · $3.72
3,000 字
4 轮 · 6 分钟 · $4.44
2,989 字
6 轮 · 5 分钟 · $6.54
zenstory-ai/oh-story-claudecode2,822 字
3 轮 · 4 分钟 · $3.14
2,969 字
3 轮 · 6 分钟 · $3.54
2,654 字
2 轮 · 4 分钟 · $1.88
lingfengQAQ/webnovel-writer2,771 字
4 轮 · 4 分钟 · $2.66
2,873 字
4 轮 · 5 分钟 · $3.30
2,469 字
5 轮 · 3 分钟 · $3.29
0xsline/short-drama2,717 字
3 轮 · 5 分钟 · $2.84
2,995 字
3 轮 · 4 分钟 · $2.82
2,883 字
3 轮 · 5 分钟 · $3.00
Tomsawyerhu/Chinese-WebNovel-Skill2,992 字
2 轮 · 5 分钟 · $2.09
2,993 字
3 轮 · 8 分钟 · $4.36
2,963 字
6 轮 · 6 分钟 · $6.90
xindoo/sumeru2,995 字
3 轮 · 6 分钟 · $3.76
2,796 字
4 轮 · 4 分钟 · $2.90
3,559 字
4 轮 · 5 分钟 · $4.05
LanyXiaosheng/bookflow-skill2,514 字
7 轮 · 4 分钟 · $4.89
2,526 字
4 轮 · 5 分钟 · $3.02
2,769 字
4 轮 · 5 分钟 · $3.39
dama-cyber/Distilled-Novel-Toolbox2,914 字
6 轮 · 5 分钟 · $5.14
2,995 字
6 轮 · 6 分钟 · $7.49
2,730 字
3 轮 · 4 分钟 · $1.95
tance-mang/chinese-webnovel-skills3,027 字
4 轮 · 5 分钟 · $3.41
3,249 字
4 轮 · 5 分钟 · $3.55
2,989 字
3 轮 · 4 分钟 · $2.01
xiaofeng-928/chinese-longnovel-skill2,501 字
4 轮 · 4 分钟 · $2.56
2,997 字
3 轮 · 4 分钟 · $1.97
2,614 字
6 轮 · 4 分钟 · $4.63
qingyabailu-git/webfiction-write2,837 字
4 轮 · 5 分钟 · $3.33
2,414 字
3 轮 · 4 分钟 · $1.97
2,913 字
3 轮 · 4 分钟 · $2.20

积分:所有参赛者两两比

每个参赛者和另外 20 个各比 3 次(第 n 次运行对第 n 次运行),一共 60 次。一次比较里,两种先后顺序都判它赢才算赢,记 1 分;都判对方赢算输;其余算平,记 0.5 分。名次以主评审 Opus 为准,GPT 是复核;两位评审结论不同的对子在盲比列表里标「有争议」。

名次参赛者Opus(主评)
赢-平-输 · 积分 · 名次
GPT(复核)
赢-平-输 · 积分 · 名次
赢的比例(Opus)和对照组(Opus)有争议
1zhu5859243-free/hongguo-shortdrama-screenwriting44-14-2 · 51 · 第 143-6-11 · 46 · 第 473%(95% 区间 61%–83%)3-0-017
2adoria111/emma-screenwriting-skills40-13-7 · 46.5 · 第 242-11-7 · 47.5 · 第 267%(95% 区间 54%–77%)2-1-024
3Tomsawyerhu/Chinese-WebNovel-Skill37-16-7 · 45 · 第 355-4-1 · 57 · 第 162%(95% 区间 49%–73%)3-0-021
4jtydhr88/screenwriting-skills36-13-11 · 42.5 · 第 419-20-21 · 29 · 第 1160%(95% 区间 47%–71%)2-1-032
4lixiaoxiao9888-create/short-drama-factory32-21-7 · 42.5 · 第 437-12-11 · 43 · 第 553%(95% 区间 41%–65%)2-0-132
60xsline/short-drama28-21-11 · 38.5 · 第 620-14-26 · 27 · 第 1347%(95% 区间 35%–59%)2-1-031
7Shanyin-ai/shanyin-screenwriting-master31-12-17 · 37 · 第 719-8-33 · 23 · 第 1552%(95% 区间 39%–64%)2-0-128
7xindoo/sumeru28-18-14 · 37 · 第 726-16-18 · 34 · 第 647%(95% 区间 35%–59%)2-1-027
9tance-mang/chinese-webnovel-skills28-17-15 · 36.5 · 第 923-13-24 · 29.5 · 第 1047%(95% 区间 35%–59%)2-0-124
10qingyabailu-git/webfiction-write24-20-16 · 34 · 第 1022-16-22 · 30 · 第 940%(95% 区间 29%–53%)1-1-127
11zenstory-ai/oh-story-claudecode22-20-18 · 32 · 第 1119-7-34 · 22.5 · 第 1637%(95% 区间 26%–49%)0-3-034
12zenstory-ai/drama-skills19-18-23 · 28 · 第 1218-15-27 · 25.5 · 第 1432%(95% 区间 21%–44%)1-2-036
13对照组
不装 skill
15-23-22 · 26.5 · 第 1322-17-21 · 30.5 · 第 825%(95% 区间 16%–37%)—32
13Hao0321/ai-short-drama14-25-21 · 26.5 · 第 1343-8-9 · 47 · 第 323%(95% 区间 14%–35%)0-2-140
15dama-cyber/Distilled-Novel-Toolbox13-20-27 · 23 · 第 156-9-45 · 10.5 · 第 2122%(95% 区间 13%–34%)0-2-127
16lingfengQAQ/webnovel-writer14-15-31 · 21.5 · 第 1624-10-26 · 29 · 第 1123%(95% 区间 14%–35%)0-2-127
17LanyXiaosheng/bookflow-skill6-22-32 · 17 · 第 1716-10-34 · 21 · 第 1710%(95% 区间 5%–20%)0-3-032
18lixiaoxiao9888-create/manju-laoli-skill7-14-39 · 14 · 第 1823-16-21 · 31 · 第 712%(95% 区间 6%–22%)0-1-231
18xiaofeng-928/chinese-longnovel-skill5-18-37 · 14 · 第 188-8-44 · 12 · 第 208.3%(95% 区间 4%–18%)0-1-223
20catyiqian/qianqianwriting3-15-42 · 10.5 · 第 2010-10-40 · 15 · 第 195.0%(95% 区间 2%–14%)0-1-225
21eternityspring/shuohao-skills0-13-47 · 6.5 · 第 2116-8-36 · 20 · 第 180%(95% 区间 0%–6%)0-1-226

按 Opus 的积分排,同分并列。「赢的比例」是赢的次数占全部比较的比例,括号里是 95% 置信区间:区间重叠很多的两个参赛者,名次先后说明不了太多。

对阵表(Opus)

每格是行里的参赛者对列里的参赛者,三次比较的「赢-平-输」。每一场的稿子和判决在盲比列表。

zhu5859243-free/hongguo-shortdrama-screenwritingadoria111/emma-screenwriting-skillsTomsawyerhu/Chinese-WebNovel-Skilljtydhr88/screenwriting-skillslixiaoxiao9888-create/short-drama-factory0xsline/short-dramaShanyin-ai/shanyin-screenwriting-masterxindoo/sumerutance-mang/chinese-webnovel-skillsqingyabailu-git/webfiction-writezenstory-ai/oh-story-claudecodezenstory-ai/drama-skills对照组(不装 skill)Hao0321/ai-short-dramadama-cyber/Distilled-Novel-ToolboxlingfengQAQ/webnovel-writerLanyXiaosheng/bookflow-skilllixiaoxiao9888-create/manju-laoli-skillxiaofeng-928/chinese-longnovel-skillcatyiqian/qianqianwritingeternityspring/shuohao-skills
zhu5859243-free/hongguo-shortdrama-screenwriting—2-0-11-1-10-3-01-2-02-1-01-2-03-0-01-2-02-1-03-0-03-0-03-0-03-0-02-1-02-1-03-0-03-0-03-0-03-0-03-0-0
adoria111/emma-screenwriting-skills1-0-2—1-1-12-0-11-2-01-2-01-1-11-2-02-0-11-1-12-1-03-0-02-1-02-1-03-0-02-1-03-0-03-0-03-0-03-0-03-0-0
Tomsawyerhu/Chinese-WebNovel-Skill1-1-11-1-1—1-1-11-1-11-1-11-1-12-1-01-2-01-1-12-1-02-1-03-0-02-1-02-1-03-0-02-1-03-0-02-1-03-0-03-0-0
jtydhr88/screenwriting-skills0-3-01-0-21-1-1—1-0-21-1-12-0-12-0-11-1-12-0-12-0-11-2-02-1-01-2-02-1-03-0-03-0-02-1-03-0-03-0-03-0-0
lixiaoxiao9888-create/short-drama-factory0-2-10-2-11-1-12-0-1—0-3-01-2-02-1-01-2-02-0-12-0-12-1-02-0-11-2-02-1-02-1-03-0-02-1-02-1-03-0-02-1-0
0xsline/short-drama0-1-20-2-11-1-11-1-10-3-0—1-1-11-1-12-0-11-1-11-2-01-1-12-1-02-1-01-2-02-0-12-1-03-0-02-1-02-1-03-0-0
Shanyin-ai/shanyin-screenwriting-master0-2-11-1-11-1-11-0-20-2-11-1-1—1-0-22-0-11-1-12-0-12-0-12-0-11-1-12-0-12-0-12-1-03-0-03-0-02-1-02-1-0
xindoo/sumeru0-0-30-2-10-1-21-0-20-1-21-1-12-0-1—1-1-11-1-10-3-02-1-02-1-02-1-01-2-02-1-03-0-03-0-02-1-02-1-03-0-0
tance-mang/chinese-webnovel-skills0-2-11-0-20-2-11-1-10-2-11-0-21-0-21-1-1—1-1-11-1-12-0-12-0-11-2-02-1-03-0-02-1-02-1-02-1-03-0-02-1-0
qingyabailu-git/webfiction-write0-1-21-1-11-1-11-0-21-0-21-1-11-1-11-1-11-1-1—1-1-11-2-01-1-11-1-11-2-01-1-12-1-03-0-01-2-02-1-02-1-0
zenstory-ai/oh-story-claudecode0-0-30-1-20-1-21-0-21-0-20-2-11-0-20-3-01-1-11-1-1—2-1-00-3-01-2-02-0-12-0-12-1-02-1-02-1-01-2-03-0-0
zenstory-ai/drama-skills0-0-30-0-30-1-20-2-10-1-21-1-11-0-20-1-21-0-20-2-10-1-2—1-2-01-2-02-1-02-0-11-2-01-1-12-1-03-0-03-0-0
对照组
不装 skill
0-0-30-1-20-0-30-1-21-0-20-1-21-0-20-1-21-0-21-1-10-3-00-2-1—1-2-01-2-01-2-00-3-02-1-02-1-02-1-02-1-0
Hao0321/ai-short-drama0-0-30-1-20-1-20-2-10-2-10-1-21-1-10-1-20-2-11-1-10-2-10-2-10-2-1—1-2-01-1-11-2-02-1-02-1-02-0-13-0-0
dama-cyber/Distilled-Novel-Toolbox0-1-20-0-30-1-20-1-20-1-20-2-11-0-20-2-10-1-20-2-11-0-20-1-20-2-10-2-1—1-1-11-2-02-0-12-0-13-0-02-1-0
lingfengQAQ/webnovel-writer0-1-20-1-20-0-30-0-30-1-21-0-21-0-20-1-20-0-31-1-11-0-21-0-20-2-11-1-11-1-1—1-2-01-1-12-0-11-2-02-1-0
LanyXiaosheng/bookflow-skill0-0-30-0-30-1-20-0-30-0-30-1-20-1-20-0-30-1-20-1-20-1-20-2-10-3-00-2-10-2-10-2-1—1-2-01-1-12-1-02-1-0
lixiaoxiao9888-create/manju-laoli-skill0-0-30-0-30-0-30-1-20-1-20-0-30-0-30-0-30-1-20-0-30-1-21-1-10-1-20-1-21-0-21-1-10-2-1—1-2-01-1-12-1-0
xiaofeng-928/chinese-longnovel-skill0-0-30-0-30-1-20-0-30-1-20-1-20-0-30-1-20-1-20-2-10-1-20-1-20-1-20-1-21-0-21-0-21-1-10-2-1—1-2-01-2-0
catyiqian/qianqianwriting0-0-30-0-30-0-30-0-30-0-30-1-20-1-20-1-20-0-30-1-20-2-10-0-30-1-21-0-20-0-30-2-10-1-21-1-10-2-1—1-2-0
eternityspring/shuohao-skills0-0-30-0-30-0-30-0-30-1-20-0-30-1-20-0-30-1-20-1-20-0-30-0-30-1-20-0-30-1-20-1-20-1-20-1-20-2-10-2-1—

怎么核对