系统排名

排名 时间 系统名称 Pre-Test Test
Average EM F1 Average↓
gold 1 2018/8/10 Unnamed System (ensemble)
北京信息科技大学智能信息处理实验室
74.697 70.800 88.328 79.564
silver 2 2018/8/10 Unnamed System (single)
北京信息科技大学智能信息处理实验室
72.711 68.050 85.835 76.942
bronze 3 2018/7/15 Unnamed System (ensemble)
CIST - 北京邮电大学
69.500 63.900 83.540 73.720
4 2018/7/22 Unnamed System (ensemble)
6ESTATES PTE LTD
66.174 61.100 83.832 72.466
5 2018/8/5 Unnamed System (single)
6ESTATES PTE LTD
72.902 61.550 83.340 72.445
6 2018/7/26 Z-Reader (single)
南方科技大学计算机科学与工程系
70.179 60.350 82.468 71.409
7 2018/7/15 Unnamed System (single)
CIST - 北京邮电大学
66.867 60.750 80.480 70.615
8 2018/8/9 OmegaOne (single)
FDU & XMU
72.166 59.850 80.331 70.091
9 2018/8/10 Unnamed System (single)
SXU - 山西大学
57.621 51.350 74.602 62.976
10 2018/7/28 Unnamed System (single)
THUIR & ILPS
50.918 43.550 66.416 54.983
11 2018/7/4 QANet (single)
KBNLU - 中国科学院软件研究所
35.523 29.150 53.880 41.515
12 2018/8/10 Unnamed System (single)
LittleBai - 开智学堂
19.224 12.600 40.561 26.581
13 2018/7/29 Unnamed System (single)
JSPI-POAL
16.730 0.600 34.957 17.779
14 2018/7/29 SXU-Reader (single)
山西大学
11.749 0.000 25.492 12.746
15 2018/7/25 Unnamed System (single)
上海理工大学自然语言实验室
3.800 0.000 7.199 3.599
16 2018/8/10 Unnamed System (single)
武汉大学计算机学院语言与信息研究中心
0.000 0.000 0.000 0.000
Human Performance
CMRC 2018 Officials
95.249 91.083 97.348 94.216

注意

  1. 开发集排行榜仅供系统验证使用,并不作为最终评测排名的依据。

  2. 提醒各参赛单位,开发集结果排名仅供参考,并不能由此来判定本次评测最终的排名情况(并非所有参赛队伍都提交了最好的系统)。

  3. 预测试集为最终评测测试集的子集,相关结果仅供参考,不作为最终评测排名的依据。

重要时间点

事件 状态 时间
提交系统验证开发集&预测试集 未开始 2018年6月7日 ~ 2018年8月7日 8月10日
提交系统验证测试集 未开始 2018年8月13日 ~ 2018年8月17日
开放式挑战 未开始 TBD