#大模型日报# #ai前沿动态#
【插入语言模型:任意位置插入的序列生成】
链接:http://t.cn/A6gLwhl9
论文概述:本文提出的插入语言模型(ILM)通过学习在序列任意位置单步插入词元,巧妙地结合了自回归模型的强依赖建模和掩码扩散模型的乱序生成灵活性,不仅在规划任务上超越了这两种模型,还以无掩码的方式更自然地实现了任意长度的文本填充,尽管在纯文本生成效率上仍面临挑战。
发布于 北京
