这期的内容是关于BatchNormalization的,这篇paper一在arxiv上挂出来,就受到了很多人的追捧,实际的效果如何呢?让我们一起来总结总结。

bn

好久没有做过pre了,所以这次准备了比较长时间,想怎么样才能讲得通俗易懂一些,让听者都或多或少有一点收获。本来想用latex和beamer来做ppt,但是想到鼎爷以前已经用latex做过了,就想不如不要用重复的。

然后就开始找有没有Html的模板,找到了几款,对比一下选择了google出品的io-2012-slides。不得不说google做东西真的很细致!这么小的一个工程都有config文件,而且提供了不亚于ppt的效果,数字角标,logo的放置,页面切换这些都做得非常细致。google这种简约的风格非常喜欢,相比之下,d3.js和impress.js感觉过于酷炫,稍显浮夸,不过很可能是因为我不会用。

PPT里面的图也是用Geogebra画的,这个也是在鼎爷博客上看到的,但是为什么鼎爷画的就这么漂亮><。

有几个bn参数的图表,本来想画成图片贴进去,然后想既然用了html,不如做成响应式的,于是就用了highchart.js来画,简单易用,而且效果还不错,只用核心的库和部分的功能也勉强算轻便吧,200K左右。

ppt放在这里,感兴趣的同学可以看看,可能有写得不好或者不对的地方,欢迎交流。 (按p可以弹出中文的讲义,但不是每张都有,按o可以切换成overview的页面,可以快速翻动)

最初的代码参考自ChenglongChen,后来进行过很多的优化,由于是公司的东西不便公开,但是欢迎邮件讨论。