语义计算2024春季讨论班——零样本提示学习

一、 主题： 零样本提示学习

主讲人： 杨磊稳

摘要：当前零样本场景下的提示学习方法广泛依赖于具有足够人工注释数据的开发集，以在后验选择性能最佳的提示模板。这并不理想，因为在实际相关的现实世界中，没有标记数据可用。因此，我们提出了一种简单而有效的方法来筛选合理的零射击文本分类提示模板:Perplexity Selection (perfect)。我们假设语言差异可以用来衡量提示模板的有效性，从而开发出一种基于困惑的方案，允许提前预测提示模板的性能。实验表明，我们的方法在真实的零样本设置下提高了预测性能，消除了对任何标记示例的需要。