近日,我中心自然语言处理研究组一篇论文被IEEE/ACM Transactions on Audio, Speech and Language Processing(TASLP)期刊录用。TASLP期刊是是音频、声学、语言信号处理的顶级期刊,在CCF学术推荐列表中认定为B类刊物,清华最新版计算机学术推荐列表中认定为A类刊物。录用文章具体相关信息如下:
题目:Future-Aware Knowledge Distillation for Neural Machine Translation (作者:Zhang, Biao; Xiong, Deyi; Su, Jinsong; Luo, Jiebo)论文第一作者是中心2018届硕士毕业生张飚,通讯作者是苏劲松博士。

论文研究如何将目标句子中自右(左)至左(右)的上下文信息融入到自左(右)至右(左)解码的神经机器翻译模型中。上下文信息对理解句子的结构、语义等至关重要。当前已有研究主要考虑两次解码,即先解码生成粗糙的译文,在进行二次解码进行完善,延长了模型的解码时间。本论文提出利用知识蒸馏的方法,将上下文模型中的信息蒸馏进原机器翻译模型中,增强单向的解码器感知未来信息的能力,从而生成更流畅的译文。论文在RNNSearch模型以及Transformer模型,以及中英、英德翻译任务上都有不错表现。
该项目得到了国家自然科学基金(Nos. 61672440, 61622209, 61861130364)、国家重点研发计划(No. 2019QY1802/03)、中央高校基础科研基金(No. ZK1024)、国家语委科研项目(No. YB135-49)等的资助。