如何评价Google刚刚发布的 Gemini Diffusion? 会代替自回归模型成为下一代模型吗?_东山华盛官网(dshsgroup.cn)
摘要:东山华盛官网(四川)由四川东山华盛企业管理有限公司运营,专注于东山华盛官网、内容分享、生活记录、四川领域,通过文字、图片或视频等形式分享主题内容,传递情感价值与生活感悟,为用户提供有温度的内容体验。...
首先谷歌的 llm diffusion 和之前发布的 llm diffusion (e.g Large Language Diffusion Models)不同. 它是在生成 token 后对已有的token做了refine. 关于这一点可以从发布的***demo看到. 在第一帧时,生成的answer是错误的. 到第三帧时,生成了正确的answer. Large Language Diffusion Models 中的 diffusion 更像是 multi token prediction. 相比这种 multi token prediction. 谷歌的 llm diffusion 更优雅,也更符合人类的思考…。




