语义计算实验室2020秋季学期讨论班(5)

一、 主题:文本生成前沿进展-事实准确性

     主讲人:王舰

     摘要:目前的文本生成尤其是长文本生成,比如摘要,往往存在着事实性错误,因此,研究如何提升文本的事实准确性和对事实准确性进行评估对文本生成具有重要意义。本次讨论班针对上述两个问题进行简要综述,并讨论在事实准确性上的研究热点。

      时间和地点:10月30日13:30-15:00(星期五下午1点30分-3点),软件学院办公楼201会议室


二、 主题:上下文相关词表示的语境相关性

    主讲人:侯庆锐

    摘要:用上下文化的词表示代替静态词嵌入,已经在许多NLP任务上取得了显著的改进。论文《How Contextual are Contextualized Word Representations? Comparing the Geometry of BERT, ELMo, and GPT-2 Embeddings》以三种指标对ELMo、BERT和GPT-2三种主要的上下文化词表示方法进行研究,展现其对词语进行上下文化表示的能力与性质,并为上下文化词表示方法相对于静态词嵌入的优越性提供依据。

     时间和地点:10月30日15:00-16:30(星期五下午3点-4点30分),软件学院办公楼201会议室


三、 主题:深度前馈网络和正则化

   主讲人:夏天宇

   摘要:对于前馈神经网络独有的问题,介绍应该如何选择隐藏单元的类型。神经网络设计的另一个关键点是确定它的架构,具有隐藏层的前馈网络提供了一种万能近似框架。然后介绍深度模型的正则化策略。

    时间和地点:11月3日13:30-16:00(星期二下午1点30分-4点)软件学院办公楼201会议室


四、 主题:反向传播和计算图

  主讲人:夏天宇

  摘要:首先介绍如何使用链式法则获得梯度,然后我们把神经网络方程表示成一个图,即计算图,反向传播就是沿着边应用回传梯度。最后举例介绍正向和反向传播的过程。

   时间和地点:11月3日16:00-17:00(星期二下午5点-5点),软件学院办公楼201会议室