语义计算实验室2020秋季学期讨论班(6)

一、 主题:句法分析森林与关系抽取

    主讲人:刘天元

    摘要:关系抽取是信息抽取的基础任务,依存句法分析树一直被认为是其重要的特征来源。目前主要相关方法都使用了单一的句法树,在句法分析器不够准确的情况下会导致错误的积累等问题。本次讨论的两篇工作通过使用依存句法森林,探讨在领域迁移等句法分析器性能较弱的情况下,如何依靠依存句法进行关系抽取。

     时间和地点:11月6日13:30-15:00(星期五下午1点30分-3点),软件学院办公楼201会议室


二、 主题:Natural Language Explanations

   主讲人:察胜男

   摘要:通过将人类可读的解释合并到网络训练过程和输出测试过程中达到增强神经网络的可解读性(interpretability)和可解释性(explainability)。这项工作将为神经网络增加关键的透明度和可问责性,同时确保产生的网络能更好地用于多种目的。

    时间和地点:11月6日15:00-16:30(星期五下午3点-4点30分),软件学院办公楼201会议室


三、 主题:深度学习中的正则化和深度模型中的优化问题

  主讲人:杨涛

  摘要:机器学习中的一个核心问题是设计不仅在训练数据上表现好,而且能在新输入上泛化好的算法。为了减少在测试集上的误差,往往需要使用正则化策略。本次讨论介绍L1和L2两种范数正则化方法及其不同的正则化效果,介绍作为约束的范数惩罚和欠约束问题。关于深度模型中的优化问题,主要介绍学习和纯优化有何不同以及神经网络优化中的一些挑战,包括病态、局部最小值、梯度爆炸等等。

   时间和地点:11月10日13:30-16:00(星期二下午1点30分-4点),软件学院办公楼201会议室


四、 主题:语言模型和RNN

 主讲人:吴佳琪

 摘要:本次课程的主题为语言模型和RNN,语言模型能够在给定已有词的情况下预测可能出现的下一个词,即对自然语言的概率分布进行建模。传统的n-gram和神经语言模型具有诸多弊端,本次讨论我们通过RNN的介绍引出序列语言模型,详述现在主流语言模型的建模方式。

  时间和地点:11月10日16:00-17:00(星期二下午4点-5点),软件学院办公楼201会议室