2018机器阅读理解技术竞赛

阅读量:1705
2018-01-04

2018 NLP Challenge on Machine Reading Comprehension

2018机器阅读理解技术竞赛由中国中文信息学会CIPS中国计算机学会CCF联合主办百度公司中国中文信息学会评测工作委员会计算机学会中文信息技术专委会联合承办。竞赛将于201831日正式开启报名通道获胜团队将分享总额10万人民币的奖金将在第三届语言与智能高峰论坛举办技术交流和颁奖。在此,诚邀学术界和工业界的研究者和开发者参加本次竞赛

竞赛背景

   中国中文信息学会中国计算机学会2016年和2017年联合发起了两届语言与智能高峰论坛,邀请国内外相关领域、学术界和工业界的知名专家学者,共同探讨语言与智能领域的新发展和新技术。第三届语言与智能高峰论坛将于2018728日在北京召开,除向社会公众介绍国际语言与智能及相关领域的发展趋势和创新成果外,本届会议还将举办机器阅读理解技术竞赛,进一步推动语言与智能领域的技术交流和发展。

   机器阅读理解(Machine Reading Comprehension) 研究近年来受到广泛关注任务通常定义为:让机器阅读文本,然后回答和阅读内容相关的问题。阅读理解涉及到语言理解、知识推理、摘要生成等复杂技术,极具挑战。该任务的研究对于智能搜索、智能推荐、智能交互等人工智能应用具有重要意义,是自然语言处理和人工智能领域的重要前沿课题。为了促进阅读理解技术的发展,本次竞赛将提供面向真实应用场景的大规模中文阅读理解数据集,为研究者提供学术交流平台,旨在进一步提升阅读理解的研究水平推动语言理解和人工智能领域技术研究和应用的发展。

竞赛任务

n 任务描述

对于给定问题q及其对应的文本形式的候选文档集合D=d1, d2, ..., dn,要求参评阅读理解系统自动对问题及候选文档进行分析,输出能够满足问题的文本答案a。目标是a能够正确、完整、简洁地回答问题q

输入/输出

² 输入: 问题q及其对应的候选文档集合D

² 输出: 满足用户问题q的文本答案a

n 数据集

竞赛数据集包含30万来自百度搜索的真实问题,每个问题对应5个候选文档文本,以及人工撰写的优质答案。数据集划分为28万的训练集,1万开发集和1万测试集。该数据集中包含了DuReader已发布的20万问题数据,可自由下载(下载地址)用于预训练和测试。竞赛报名团队将获得新增的10万问题数据集。

n 评价方法

  基于测试集的人工标注答案,采用ROUGH-LBLEU作为评价指标。全部测试集结果(即主任务)作为最终评价结果。

n 基线系统

竞赛将提供两个开源的阅读理解基线系统,基线系统的实现及结果评价参考开源系统和数据集论文

奖项设置

  竞赛将评出一等奖1名,二等奖2名,三等奖3名,主办方中国中文信息学会和中国计算机学会(CCF将为获奖者提供荣誉证书认证。同时,百度将为获奖者提供奖金和参会交流赞助

l 一等奖: 50,000 +荣誉证书

l 二等奖: 20,000 +荣誉证书

l 三等奖: 3,000 +荣誉证书

重要时间

l 2018/3/1: 启动竞赛报名,竞赛平台开放,发放样例数据;

l 2018/3/31 报名截止,对报名者发放全部训练数据

l 2018/4/23 发放测试数据

l 2018/4/30 系统结果提交截止;

l 2018/5/15 公布竞赛结果,接收系统报告论文;

l 2018/7/28: 在“语言与智能高峰论坛”上交流和颁奖

竞赛组织

n 主办方: 中国中文信息学会,中国计算机学会

n 组织方

l 百度公司

l 中国中文信息学会评测工委会

l 中国计算机学会中文信息技术专委会

n 指导委员会

l  中国科学院软件技术研究所

l  微软亚洲研究院

l 杨尔弘  北京语言大学

l 赵东岩  北京大学

l 华   百度公司

n 评测委员会

l 吕雅娟  百度公司

l 韩先培  中国科学院软件研究所

l 万小军  北京大学

l  百度公司

注册报名

预报名:即日起至2018228日,有意向参加的单位和个人可以扫描下方二维码进行预报名。预报名的团队在竞赛网站正式报名开通后会收到邮件通知,正式报名后各团队将会获得大赛纪念礼品一份

/

1