Together AI 发了篇技术博客,介绍了一种名为 CLLMs (Consistency Large Language Models,一致性大语言模型) 的新型模型架构,在不牺牲质量的情况下,推理速度提高最多14倍。www.together.ai/blog/consistency-diffusion-language-models该项目将图像生成领域前沿的“一致性模型(Consistency Models)”技术成功迁移到了离散的文本生成领域,基于 Llama-2-7B 训练出了一个新的模型,打破了传统大模型“逐字生成”的范式,实现并行地、一次性生成整个句子或段落。HOW I AI
