一、 主题:反向传播和计算图 主讲人:夏天宇 摘要:首先介绍如何使用链式法则获得梯度,然后我们把神经网络方程表示成一个图,即计算图,反向传播就是沿着边应用回传梯度。最后举例介绍正向和反向传播的过程。 时间和地点:11月3日16:00-17:00(星期二下午5点-5点),软件学院办公楼201会议
一、 主题:文本生成前沿进展-事实准确性 主讲人:王舰 摘要:目前的文本生成尤其是长文本生成,比如摘要,往往存在着事实性错误,因此,研究如何提升文本的事实准确性和对事实准确性进行评估对文本生成具有重要意义。本次讨论班针对上述两个问题进行简要综述,并讨论在事实准确性上的研究热点。 时间和地点:10月30日13:30-15:00(星期五下午1点30分-3点),软件学院办公楼201会议室二、 主题:上下文相关词表...
一、 主题:Word Window Classification, Neural Networks, and Matrix Calculus 主讲人:侯庆锐 摘要:本课从传统的线性分类器开始,引入对人工神经网络技术的介绍,并以Window Classification算法为例,讲解其在命名实体识别等领域的应用。 二、 时间和地点: 10月24日15:00-17:00(星期六下午3点-5点) 软件学院办公楼201会议
一、 主题:无参数句嵌入 主讲人:杨涛 摘要:近年来,表示词的语义信息的词嵌入技术已在许多NLP任务上取得可喜成果,促使了在更长文本如句子和段落上寻求稳定语义嵌入工作的研究。目前的句嵌入研究可分为有参数和无参数两类大的方向。论文《Parameter-free Sentence Embedding via Orthogonal Basis》提出了一种新的无参句嵌入方法。通过对句子中词汇的新颖性、重要性、独特性进行数值度量,再对词嵌入加权求和获...
一、 主题:学术推荐 主讲人:谢翌 摘要:基于Bert的自然语言处理模型在表示学习问题上具有突出表现。但仅针对上下文中句子级别的训练目标,限制了文档级别的模型表示能力,无法实现面向不同任务的科研论文嵌入。Specter、SciBert、Sentence-Bert等工作提出多种基于Bert的科研论文嵌入模型,将论文之间的引用融入文本编码,使具有引用关系的论文表示更接近,以应对论文分类、用户活跃度预测、论文推荐等任务。二...