一、 主题：文本生成之重写任务

主讲人：察胜男

摘要：向大家介绍一个新颖的NLP任务——重写文本格式错误的问题。该任务指的是在保证语义不变的前提下，修正问题错误的格式，将一个格式不良的自然语言问题改写为格式良好的自然语言问题。作者提出了问题重写数据集以及给出自己独特的评估标准的见解。

时间和地点：5月8日9:00-10:00（星期六上午9点-10点），软件学院办公楼201会议室

                     腾讯会议 ID：254 292 773

二、 主题：提升特定下游任务性能的预训练方法

主讲人：杨涛

摘要：BERT基于MLM和NSP任务进行预训练，在许多下游任务上进行微调后能够显著提升下游任务上的性能。面向一些特定的下游任务，使用一些精心设计的预训练方法，能够提升特定下游任务上的性能。跨语言预训练模型XLMs提出三种预训练方法，能够提升跨语言分类任务、机器翻译任务上的性能。SpanBERT提出预测文本span的内容而不是单个token，能够提升诸如QA等任务上的性能。

时间和地点：5月8日10:00-11:00（星期六上午10点-11点），软件学院办公楼201会议室

                     腾讯会议 ID：254 292 773