关于无分类指导的问题
作者: lucala创建于 2023年4月15日更新于 2024年1月8日
在嵌入文本进行条件化时,无分类器指导的技巧是有时会放弃嵌入(通常是 10% 的时间)。我的问题是,放弃意味着什么?我似乎遇到了两种情况:使用随机张量作为替代,或者使用零张量。GLIDE 在第 2.3 节中提到"有时我们会用一个空序列来替换文本说明" - 这将是第三种选择,使用空字符串的嵌入。我无法找到对此的任何解释,有人知道吗?
内容来源: lucidrains/imagen-pytorch
在嵌入文本进行条件化时,无分类器指导的技巧是有时会放弃嵌入(通常是 10% 的时间)。我的问题是,放弃意味着什么?我似乎遇到了两种情况:使用随机张量作为替代,或者使用零张量。GLIDE 在第 2.3 节中提到"有时我们会用一个空序列来替换文本说明" - 这将是第三种选择,使用空字符串的嵌入。我无法找到对此的任何解释,有人知道吗?
内容来源: lucidrains/imagen-pytorch