最新文章

Cross Entropy vs Cross Entropy Loss

少于 1 分钟阅读

这俩是有区别的,我一直没有注意直到我发现公式上的区别。我没有注意的原因应该是 regression 没有显式使用 cross entropy loss,而 classification 的 cross entropy loss 是对原生 cross entropy 的扩展。

Convolution is convolution; it’s NOT dot product

3 分钟阅读

我真的是出离愤怒。我不知道最开始把 convolution 看做 dot product 的人是怎么想的!有 convolution 的公式不用,非要用这么蹩脚的 intuition?而且明显 convolution 和 Hadamard product 的关系更大一点呢,咋没见人提?

Ring of Sets

少于 1 分钟阅读

写这篇主要是因为我看到有些 measure 的定义用到了 $\delta$-ring.