#248·sonnet

您能解释一下 VectorQuantizerEMA 中 updated_ema_cluster_size 的逻辑吗?

作者: wztdream创建于 2022年7月21日更新于 2022年7月21日

你好,在 `VectorQuantizerEMA` 中的 `updated_ema_cluster_size` 似乎使用了小的 epsilon 来避免分母为零,但这个公式对我来说很奇怪,你能解释一下这里的逻辑吗?为什么不直接使用类似 `x=x+epsilon` 的方式呢?

内容来源: google-deepmind/sonnet