id large_stringlengths 13 13 | question large_stringlengths 10 105 | answer large_stringlengths 7 249 | source_doc large_stringlengths 8 26 | source_url large_stringclasses 1
value | source_section large_stringlengths 4 14 | source_text large_stringlengths 402 19.7k | source_quote large_stringlengths 13 185 | category large_stringlengths 2 19 | difficulty large_stringclasses 3
values | authority large_stringclasses 14
values | review_status large_stringclasses 1
value | jury.decision large_stringclasses 3
values | jury.gpt_verdict large_stringclasses 2
values | jury.claude_verdict large_stringclasses 3
values | jury.contested bool 2
classes | jury.gpt_scores dict | jury.claude_scores dict | jury.gpt_reason large_stringlengths 21 53 | jury.claude_reason large_stringlengths 25 107 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
wh-bench-0160 | 在生产安全事故应急救援过程中，如果发现可能直接危及应急救援人员生命安全的紧急情况，现场指挥部或者统一指挥应急救援的人民政府应当怎么做？ | 应当立即采取相应措施消除隐患，降低或者化解风险，必要时可以暂时撤离应急救援人员。 | 生产安全事故应急条例 | https://huggingface.co/datasets/twang2218/chinese-law-and-regulations | 第十八条—第三十五条 | 第十八条 有关地方人民政府及其部门接到生产安全事故报告后，应当按照国家有关规定上报事故情况，启动相应的生产安全事故应急救援预案，并按照应急救援预案的规定采取下列一项或者多项应急救援措施：
(一)组织抢救遇险人员，救治受伤人员，研判事故发展趋势以及可能造成的危害；
(二)通知可能受到事故影响的单位和人员，隔离事故现场，划定警戒区域，疏散受到威胁的人员，实施交通管制；
(三)采取必要措施，防止事故危害扩大和次生、衍生灾害发生，避免或者减少事故对环境造成的危害；
(四)依法发布调用和征用应急资源的决定；
(五)依法向应急救援队伍下达救援命令；
(六)维护事故现场秩序，组织安抚遇险人员和遇险遇难人员亲属；
(七)依法发布有关事... | 应当立即采取相应措施消除隐患，降低或者化解风险，必要时可以暂时撤离应急救援人员 | 事故应急救援 | medium | 国务院 | jury_keep | KEEP_CLEAN | pass | pass | false | {
"groundedness": 5,
"accuracy": 5,
"clarity": 5,
"specificity": 5
} | {
"groundedness": 5,
"accuracy": 5,
"clarity": 5,
"specificity": 5
} | 答案直接对应原文第二十二条，主体、条件和措施均准确完整，问题清晰且可定位。 | 问题清晰具体，答案与第二十二条原文完全一致，无编造或遗漏。 |
wh-bench-0061 | 铁路安全管理坚持什么方针？ | 坚持安全第一、预防为主、综合治理的方针。 | 铁路安全管理条例 | https://huggingface.co/datasets/twang2218/chinese-law-and-regulations | 第一条—第二十六条 | 第一条 为了加强铁路安全管理，保障铁路运输安全和畅通，保护人身安全和财产安全，制定本条例。
第二条 铁路安全管理坚持安全第一、预防为主、综合治理的方针。
第三条 国务院铁路行业监督管理部门负责全国铁路安全监督管理工作，国务院铁路行业监督管理部门设立的铁路监督管理机构负责辖区内的铁路安全监督管理工作。国务院铁路行业监督管理部门和铁路监督管理机构统称铁路监管部门。
国务院有关部门依照法律和国务院规定的职责，负责铁路安全管理的有关工作。
第四条 铁路沿线地方各级人民政府和县级以上地方人民政府有关部门应当按照各自职责，加强保障铁路安全的教育，落实护路联防责任制，防范和制止危害铁路安全的行为，协调和处理保障铁路安全的有关事项，做好保障铁路安... | 第二条 铁路安全管理坚持安全第一、预防为主、综合治理的方针。 | 铁路安全管理 | easy | 国务院 | jury_keep | KEEP_CLEAN | pass | pass | false | {
"groundedness": 5,
"accuracy": 5,
"clarity": 5,
"specificity": 5
} | {
"groundedness": 5,
"accuracy": 5,
"clarity": 5,
"specificity": 4
} | 答案直接对应原文第二条，内容完整准确，问题清晰且可定位。 | 答案直接引用原文第二条，完全准确，问题表述清晰且可在原文精确定位。 |
wh-bench-0052 | 取得校车使用许可应当符合哪些基本条件？ | 应当符合五项条件：车辆符合校车安全国家标准并取得机动车检验合格证明、已在公安机关交通管理部门办理注册登记；有取得校车驾驶资格的驾驶人；有包括行驶线路、开行时间和停靠站点的合理可行的校车运行方案；有健全的安全管理制度；已经投保机动车承运人责任保险。 | 校车安全管理条例 | https://huggingface.co/datasets/twang2218/chinese-law-and-regulations | 第一条—第六十二条 | 第一条 为了加强校车安全管理，保障乘坐校车学生的人身安全，制定本条例。
第二条 本条例所称校车，是指依照本条例取得使用许可，用于接送接受义务教育的学生上下学的7座以上的载客汽车。
接送小学生的校车应当是按照专用校车国家标准设计和制造的小学生专用校车。
第三条 县级以上地方人民政府应当根据本行政区域的学生数量和分布状况等因素，依法制定、调整学校设置规划，保障学生就近入学或者在寄宿制学校入学，减少学生上下学的交通风险。实施义务教育的学校及其教学点的设置、调整，应当充分听取学生家长等有关方面的意见。
县级以上地方人民政府应当采取措施，发展城市和农村的公共交通，合理规划、设置公共交通线路和站点，为需要乘车上下学的学生提供方便。
对确实... | 第十四条 取得校车使用许可应当符合下列条件：(一)车辆符合校车安全国家标准...；(二)有取得校车驾驶资格的驾驶人；(三)有包括行驶线路、开行时间和停靠站点的合理可行的校车运行方案；(四)有健全的安全管理制度；(五)已经投保机动车承运人责任保险。 | 校车使用许可 | medium | 国务院 | jury_keep | KEEP_CLEAN | pass | pass | false | {
"groundedness": 5,
"accuracy": 5,
"clarity": 5,
"specificity": 5
} | {
"groundedness": 5,
"accuracy": 5,
"clarity": 5,
"specificity": 4
} | 答案完整、准确复述了第十四条规定的取得校车使用许可五项条件，问题清晰且可直接定位原文。 | 答案完整、准确地引用了第十四条全部五项条件，与原文高度吻合，无编造或遗漏。 |
wh-bench-0216 | 生产经营单位进行爆破、吊装、动火、临时用电等危险作业时，应当采取什么措施？ | 应当安排专门人员进行现场安全管理，确保操作规程的遵守和安全措施的落实。 | 中华人民共和国安全生产法 | https://huggingface.co/datasets/twang2218/chinese-law-and-regulations | 第一条—第六十四条 | 第一条 为了加强安全生产工作，防止和减少生产安全事故，保障人民群众生命和财产安全，促进经济社会持续健康发展，制定本法。
第二条 在中华人民共和国领域内从事生产经营活动的单位（以下统称生产经营单位）的安全生产，适用本法；有关法律、行政法规对消防安全和道路交通安全、铁路交通安全、水上交通安全、民用航空安全以及核与辐射安全、特种设备安全另有规定的，适用其规定。
第三条 安全生产工作坚持中国共产党的领导。
安全生产工作应当以人为本，坚持人民至上、生命至上，把保护人民生命安全摆在首位，树牢安全发展理念，坚持安全第一、预防为主、综合治理的方针，从源头上防范化解重大安全风险。
安全生产工作实行管行业必须管安全、管业务必须管安全、管生产经营必须... | 应当安排专门人员进行现场安全管理，确保操作规程的遵守和安全措施的落实。 | 危险作业 | medium | 全国人民代表大会常务委员会 | jury_keep | KEEP_CONTESTED | pass | fail | true | {
"groundedness": 5,
"accuracy": 5,
"clarity": 5,
"specificity": 5
} | {
"groundedness": 2,
"accuracy": 2,
"clarity": 4,
"specificity": 4
} | 答案直接引用原文，准确回答了危险作业时应采取的现场安全管理措施。 | 答案所引用的条文内容在所提供原文片段中完全找不到，groundedness和accuracy均为2，判定fail |
wh-bench-0288 | 对于运载易造成电梯损坏的物品，以及电梯机房通风散热条件不足的情况，责任单位应采取什么措施？ | 对运载易造成电梯损坏的建筑材料、建筑垃圾以及家具电器等物品的，应采取有效的安全防护技术措施或者安排人员进行现场管理；电梯机房通风散热条件无法满足电梯安全运行需要的，应在电梯机房安装空气调节器或者采取其他通风散热措施。 | 厦门经济特区电梯安全管理条例 | https://huggingface.co/datasets/twang2218/chinese-law-and-regulations | 第二十条 | 第二十条 电梯使用管理责任单位应当承担电梯使用安全主体责任，并履行下列管理职责：
㈠对电梯检验、检测以及故障需停止运行的，在电梯口的显著位置设置警示标志，落实必要的防护措施，公告停止使用的情况；
㈡确保电梯应急照明设备、紧急报警装置有效，不得在电梯配电箱中接入与电梯系统无关的线路；
㈢配备安全管理责任人员，确保电梯运行期间值班人员在岗、救援服务的联系畅通，督促维保单位定期对电梯维护保养，并及时做好日常巡查记录；
㈣对运载易造成电梯损坏的建筑材料、建筑垃圾以及家具电器等物品的，采取有效的安全防护技术措施或者安排人员进行现场管理；
㈤电梯机房通风散热条件无法满足电梯安全运行需要的，在电梯机房安装空气调节器或者采取其他通风散热措... | 对运载易造成电梯损坏的建筑材料、建筑垃圾以及家具电器等物品的，采取有效的安全防护技术措施或者安排人员进行现场管理；电梯机房通风散热条件无法满足电梯安全运行需要的，在电梯机房安装空气调节器或者采取其他通风散热措施 | 电梯安全管理 | medium | 厦门市人民代表大会常务委员会 | jury_keep | KEEP_CLEAN | pass | pass | false | {
"groundedness": 5,
"accuracy": 5,
"clarity": 5,
"specificity": 5
} | {
"groundedness": 5,
"accuracy": 5,
"clarity": 4,
"specificity": 4
} | 答案完全依据原文，准确完整回答了两种情形下责任单位应采取的措施，问题清晰且可直接定位到原文条款。 | 答案完全来源于原文条款㈣㈤，表述准确无遗漏，问题清晰可定位，整体质量良好 |
wh-bench-0051 | 本条例施行前设立的实验室，应当在多长时间内办理有关手续？ | 应当自本条例施行之日起6个月内，依照本条例的规定办理有关手续。 | 病原微生物实验室生物安全管理条例 | https://huggingface.co/datasets/twang2218/chinese-law-and-regulations | 第六十三条—第七十二条 | 第六十三条 有下列行为之一的，由实验室所在地的设区的市级以上地方人民政府卫生主管部门、兽医主管部门依照各自职责，责令有关单位立即停止违法活动，监督其将病原微生物销毁或者送交保藏机构；造成传染病传播、流行或者其他严重后果的，由其所在单位或者其上级主管部门对主要负责人、直接负责的主管人员和其他直接责任人员，依法给予撤职、开除的处分；有许可证件的，并由原发证部门吊销有关许可证件；构成犯罪的，依法追究刑事责任：
(一)实验室在相关实验活动结束后，未依照规定及时将病原微生物菌(毒)种和样本就地销毁或者送交保藏机构保管的；
(二)实验室使用新技术、新方法从事高致病性病原微生物相关实验活动未经国家病原微生物实验室生物安全专家委员会论证的；
... | 自本条例施行之日起6个月内 | 通用管理 | easy | 国务院 | jury_keep | KEEP_CLEAN | pass | pass | false | {
"groundedness": 5,
"accuracy": 5,
"clarity": 5,
"specificity": 5
} | {
"groundedness": 5,
"accuracy": 5,
"clarity": 5,
"specificity": 5
} | 问题和答案均可从第七十一条直接得出，时间期限和办理依据表述准确清晰。 | 答案完全来源于第七十一条原文，时间数值、主体、条件均准确无误，问题表述清晰具体可定位。 |
wh-bench-0043 | 高致病性病原微生物菌(毒)种或者样本在运输、储存中被盗、被抢、丢失、泄漏时，承运单位、护送人、保藏机构应在多长时间内分别向哪些部门报告？ | 应当在2小时内分别向承运单位的主管部门、护送人所在单位和保藏机构的主管部门报告，同时向所在地的县级人民政府卫生主管部门或者兽医主管部门报告；发生被盗、被抢、丢失的，还应当向公安机关报告。 | 病原微生物实验室生物安全管理条例 | https://huggingface.co/datasets/twang2218/chinese-law-and-regulations | 第十七条—第五十九条 | 第十七条 高致病性病原微生物菌(毒)种或者样本在运输、储存中被盗、被抢、丢失、泄漏的，承运单位、护送人、保藏机构应当采取必要的控制措施，并在2小时内分别向承运单位的主管部门、护送人所在单位和保藏机构的主管部门报告，同时向所在地的县级人民政府卫生主管部门或者兽医主管部门报告，发生被盗、被抢、丢失的，还应当向公安机关报告；接到报告的卫生主管部门或者兽医主管部门应当在2小时内向本级人民政府报告，并同时向上级人民政府卫生主管部门或者兽医主管部门和国务院卫生主管部门或者兽医主管部门报告。
县级人民政府应当在接到报告后2小时内向设区的市级人民政府或者上一级人民政府报告；设区的市级人民政府应当在接到报告后2小时内向省、自治区、直辖市人民政府报告... | 在2小时内分别向承运单位的主管部门、护送人所在单位和保藏机构的主管部门报告，同时向所在地的县级人民政府卫生主管部门或者兽医主管部门报告；发生被盗、被抢、丢失的，还应当向公安机关报告 | 病原微生物实验室生物安全管理 | hard | 国务院 | jury_keep | KEEP_CLEAN | pass | pass | false | {
"groundedness": 5,
"accuracy": 5,
"clarity": 5,
"specificity": 5
} | {
"groundedness": 5,
"accuracy": 5,
"clarity": 5,
"specificity": 5
} | 答案完全依据原文，时间、报告主体和接收部门均准确完整，问题清晰且可直接定位。 | 问题清晰具体，答案与原文第十七条完全一致，时间节点、报告主体及部门列举均无遗漏，质量优良。 |
wh-bench-0171 | 什么情况属于本条例所称的电力安全事故？ | 指电力生产或者电网运行过程中发生的、影响电力系统安全稳定运行或者影响电力正常供应的事故，包括热电厂发生的影响热力正常供应的事故。 | 电力安全事故应急处置和调查处理条例 | https://huggingface.co/datasets/twang2218/chinese-law-and-regulations | 第一条—第三十六条 | 第一条 为了加强电力安全事故的应急处置工作，规范电力安全事故的调查处理，控制、减轻和消除电力安全事故损害，制定本条例。
第二条 本条例所称电力安全事故，是指电力生产或者电网运行过程中发生的影响电力系统安全稳定运行或者影响电力正常供应的事故(包括热电厂发生的影响热力正常供应的事故)。
第三条 根据电力安全事故(以下简称事故)影响电力系统安全稳定运行或者影响电力(热力)正常供应的程度，事故分为特别重大事故、重大事故、较大事故和一般事故。事故等级划分标准由本条例附表列示。事故等级划分标准的部分项目需要调整的，由国务院电力监管机构提出方案，报国务院批准。
由独立的或者通过单一输电线路与外省连接的省级电网供电的省级人民政府所在地城市，以及由... | 电力生产或者电网运行过程中发生的影响电力系统安全稳定运行或者影响电力正常供应的事故(包括热电厂发生的影响热力正常供应的事故) | 电力安全事故定义 | easy | 国务院 | jury_keep | KEEP | pass | borderline | false | {
"groundedness": 5,
"accuracy": 5,
"clarity": 5,
"specificity": 5
} | {
"groundedness": 5,
"accuracy": 5,
"clarity": 4,
"specificity": 3
} | 答案直接对应原文第二条对电力安全事故的定义，表述准确完整，问题清晰且可定位。 | 答案完全忠实于原文第二条且准确完整，但问题属于泛化的定义类提问，specificity偏低，整体评级为borderline |
wh-bench-0180 | 建设单位不得明示或者暗示哪些违反民用建筑节能强制性标准的行为？ | 建设单位不得明示或者暗示设计单位、施工单位违反民用建筑节能强制性标准进行设计、施工，也不得明示或者暗示施工单位使用不符合施工图设计文件要求的墙体材料、保温材料、门窗、采暖制冷系统和照明设备。 | 民用建筑节能条例 | https://huggingface.co/datasets/twang2218/chinese-law-and-regulations | 第一条—第四十五条 | 第一条 为了加强民用建筑节能管理，降低民用建筑使用过程中的能源消耗，提高能源利用效率，制定本条例。
第二条 本条例所称民用建筑节能，是指在保证民用建筑使用功能和室内热环境质量的前提下，降低其使用过程中能源消耗的活动。
本条例所称民用建筑，是指居住建筑、国家机关办公建筑和商业、服务业、教育、卫生等其他公共建筑。
第三条 各级人民政府应当加强对民用建筑节能工作的领导，积极培育民用建筑节能服务市场，健全民用建筑节能服务体系，推动民用建筑节能技术的开发应用，做好民用建筑节能知识的宣传教育工作。
第四条 国家鼓励和扶持在新建建筑和既有建筑节能改造中采用太阳能、地热能等可再生能源。
在具备太阳能利用条件的地区，有关地方人民政府及其部门应当采... | 建设单位不得明示或者暗示设计单位、施工单位违反民用建筑节能强制性标准进行设计、施工，不得明示或者暗示施工单位使用不符合施工图设计文件要求的墙体材料、保温材料、门窗、采暖制冷系统和照明设备。 | 民用建筑节能 | easy | 国务院 | jury_keep | KEEP_CLEAN | pass | pass | false | {
"groundedness": 5,
"accuracy": 5,
"clarity": 5,
"specificity": 5
} | {
"groundedness": 5,
"accuracy": 5,
"clarity": 4,
"specificity": 4
} | 答案完整准确复述了原文第十四条关于建设单位不得明示或暗示的两类行为，问题清晰且可直接定位。 | 答案完整忠实复述原文第十四条第一款内容，无编造或遗漏，问题定位明确，整体质量良好 |
wh-bench-0197 | 职业卫生监督执法人员应当经过什么程序后，才能依法执法？ | 应当依法经过资格认定。 | 中华人民共和国职业病防治法 | https://huggingface.co/datasets/twang2218/chinese-law-and-regulations | 前言—第六十八条 | 中华人民共和国职业病防治法
> （2001年10月27日第九届全国人民代表大会常务委员会第二十四次会议通过 根据2011年12月31日第十一届全国人民代表大会常务委员会第二十四次会议《关于修改〈中华人民共和国职业病防治法〉的决定》第一次修正 根据2016年7月2日第十二届全国人民代表大会常务委员会第二十一次会议《关于修改〈中华人民共和国节约能源法〉等六部法律的决定》第二次修正 根据2017年11月4日第十二届全国人民代表大会常务委员会第三十次会议《关于修改〈中华人民共和国会计法〉等十一部法律的决定》第三次修正 根据2018年12月29日第十三届全国人民代表大会常务委员会第七次会议《关于修改〈中华人民共和国劳动法〉等七部法律的决定》... | 职业卫生监督执法人员应当依法经过资格认定。 | 职业卫生监督 | easy | 全国人民代表大会常务委员会 | jury_keep | KEEP_CLEAN | pass | pass | false | {
"groundedness": 5,
"accuracy": 5,
"clarity": 5,
"specificity": 5
} | {
"groundedness": 5,
"accuracy": 5,
"clarity": 4,
"specificity": 4
} | 答案直接对应原文“职业卫生监督执法人员应当依法经过资格认定”，问题清晰且定位具体。 | 问题与答案均直接对应原文'职业卫生监督执法人员应当依法经过资格认定'，表述准确无误，无编造或遗漏。 |
wh-bench-0292 | 用人单位在使用有毒物品作业时，对有毒物品的选择和使用有哪些明确要求？ | 应当使用符合国家标准的有毒物品，不得在作业场所使用国家明令禁止使用的有毒物品或者使用不符合国家标准的有毒物品；并且应当尽可能使用无毒物品，需要使用有毒物品的，应当优先选择使用低毒物品。 | 使用有毒物品作业场所劳动保护条例 | https://huggingface.co/datasets/twang2218/chinese-law-and-regulations | 第一条—第四十条 | 第一条 为了保证作业场所安全使用有毒物品，预防、控制和消除职业中毒危害，保护劳动者的生命安全、身体健康及其相关权益，根据职业病防治法和其他有关法律、行政法规的规定，制定本条例。
第二条 作业场所使用有毒物品可能产生职业中毒危害的劳动保护，适用本条例。
第三条 按照有毒物品产生的职业中毒危害程度，有毒物品分为一般有毒物品和高毒物品。国家对作业场所使用高毒物品实行特殊管理。
一般有毒物品目录、高毒物品目录由国务院卫生行政部门会同有关部门依据国家标准制定、调整并公布。
第四条 从事使用有毒物品作业的用人单位(以下简称用人单位)应当使用符合国家标准的有毒物品，不得在作业场所使用国家明令禁止使用的有毒物品或者使用不符合国家标准的有毒物品。
... | 应当使用符合国家标准的有毒物品，不得在作业场所使用国家明令禁止使用的有毒物品或者使用不符合国家标准的有毒物品。用人单位应当尽可能使用无毒物品；需要使用有毒物品的，应当优先选择使用低毒物品。 | 有毒物品使用 | easy | 国务院 | jury_keep | KEEP | pass | borderline | false | {
"groundedness": 5,
"accuracy": 5,
"clarity": 5,
"specificity": 5
} | {
"groundedness": 5,
"accuracy": 5,
"clarity": 4,
"specificity": 3
} | 答案完整、准确复述了原文第四条关于有毒物品选择和使用的明确要求。 | 答案与原文第四条高度吻合、无编造，但问题本身属于开放式列举型泛问，specificity不足，整体borderline |
End of preview. Expand in Data Studio
wh-bench v0.1 — 中文法律法规问答评测集
A small, high-quality, dual-LLM-jury verified Chinese legal-regulation QA benchmark for evaluating instruction-tuned LLMs on Chinese law knowledge.
📦 Code & full reports: github.com/teee32/wh-bench-v0.1 📊 Tech report: TECH_REPORT.md 📋 Datasheet: DATASHEET.md
TL;DR
300 条中文法律法规问答评测集，由公开法规文本经 LLM 蒸馏 + 规则过滤 + 双 LLM 评委独立评审（GPT-5.5 + Claude Sonnet） 三阶段构建。每条 QA 都带原文引用，可追溯到 50 部国家级与地方性法规。
| Split | Count | easy / medium / hard |
|---|---|---|
| train | 239 | 134 / 95 / 10 |
| test | 61 | 33 / 25 / 3 |
| all | 300 | 167 / 120 / 13 |
Quick Start
from datasets import load_dataset
ds = load_dataset("kksk2312/wh-bench-v0.1")
print(ds)
# DatasetDict({
# train: Dataset({features: [...], num_rows: 239})
# test: Dataset({features: [...], num_rows: 61})
# })
sample = ds["test"][0]
print(sample["question"]) # 哪些船舶在内河航行前必须向引航机构申请引航？
print(sample["answer"]) # 外国籍船舶、1000总吨以上的海上机动船舶...
print(sample["source_quote"]) # 下列船舶在内河航行，应当向引航机构申请引航：
Fields
| Field | Type | Description |
|---|---|---|
id |
string | unique ID, e.g. wh-bench-0001 |
question |
string | Chinese factual question |
answer |
string | concise answer derivable from source |
source_doc |
string | regulation title |
source_url |
string | upstream HF dataset URL |
source_section |
string | section range |
source_text |
string | full regulation chunk (context) |
source_quote |
string | verbatim quote anchoring the answer |
category |
string | content category |
difficulty |
string | easy / medium / hard |
authority |
string | issuing authority |
review_status |
string | always jury_keep for v0.1 |
jury.decision |
string | KEEP / DROP (all kept here) |
jury.gpt_verdict |
string | pass / borderline / fail (GPT-5.5) |
jury.claude_verdict |
string | pass / borderline / fail (Claude Sonnet) |
jury.contested |
bool | true if judges disagree (15 pairs) |
jury.gpt_scores.* |
int | 1-5 scores: groundedness/accuracy/clarity/specificity |
jury.claude_scores.* |
int | 1-5 scores from Claude |
jury.gpt_reason |
string | judge's free-form reasoning |
jury.claude_reason |
string | judge's free-form reasoning |
Dual-LLM Jury Method
Construction pipeline:
- Distill:
gpt-5.4-minigenerates QA from chunked regulations, prompt-enforced source quoting - Filter: rule-based field/quote/length checks → 303 pairs
- Dual jury:
gpt-5.5andclaude-sonnet-4-6independently score on 4 dimensions (groundedness, accuracy, clarity, specificity) and emitpass/borderline/fail - Drop strategy A (strict intersection): drop iff both judges fail → 3 dropped, 300 kept
Inter-judge confusion matrix (303 pairs):
| Claude pass | Claude borderline | Claude fail | |
|---|---|---|---|
| GPT pass | 203 | 72 | 14 |
| GPT borderline | 2 | 8 | 1 |
| GPT fail | 0 | 0 | 3 |
- Both-pass: 67.0% (conservative quality ceiling)
- Both-fail (dropped): 1.0% (3 pairs)
- CONTESTED (one fail, the other not): 15 pairs — kept with
jury.contested=true
Limitations
- Easy-skew: 55.7% easy, 4.3% hard. Better suited to factual recall than reasoning evaluation.
- 15 CONTESTED samples retained: filter via
jury.contested == Truefor stricter use. - Authority imbalance: State Council regulations dominate; provincial coverage non-uniform.
- Self-distilled labels: LLM-generated, not lawyer-written. Triple-locked by quoting + jury, but not expert-grade.
- Topic gap: criminal law and judicial interpretations out of scope for v0.1.
License
- Dataset: CC BY-SA 4.0
- Code: MIT
- Source regulations: public domain (PRC Copyright Law Art. 5)
Citation
@dataset{teee32_wh_bench_2026,
title = {wh-bench v0.1: A Dual-Jury Verified Chinese Legal-Regulation QA Benchmark},
author = {teee32},
year = {2026},
url = {https://huggingface.co/datasets/kksk2312/wh-bench-v0.1},
note = {300 QA pairs across 50 Chinese laws and regulations,
verified by GPT-5.5 + Claude Sonnet jury}
}
Acknowledgments
- Source corpus: twang2218/chinese-law-and-regulations
- Constructed in May 2026 as an open-source data-pipeline experiment under Wuhan's "AI + One-Person-Company" policy initiative.
- Downloads last month
- 60