-
大语言模型技术分类总结
发布时间:2024-10-28
2020年后,Encoder-Only技术基本不在发展,近年来,Encoder-Decoder类型技术路线较多。Encoder-Decoder模型相比Encoder-Only模型,通常具有更强的序列学习和生成能力,尤其擅长实现输入序列到输出序列的结构映射,所以在机器翻译、文摘生成和聊天机器人等任务上有更好的应用前景。但Encoder-Only的模型结构简单,training和inference速度更快,在一些简单分类或标注任务上也具有优势。







