This is my blog.
机器学习的一个0-5数字识别的作业
一做，就发现
哇！瞬间通了一点！
果然还是要静下来好好推公式哒！
Perceptron感知机
输入是0或者1
在逻辑运算中，表现很好
S型神经元
用到了sigmoid函数，并且输入可以是0到1之间的任意值；输出也可以是0-1之间的任意值了
当wx+b的绝对值很大的时候，可以近似于感知机
MLP多层感知机
其实是由多个s型神经元构成的多层网络
对于sigmoid
Sigmoid（tanh）中，能在激活的时候，更关注数据在零（或中心点）前后的细小变化，而忽略数据在极端时的变化，多用于全连接层
ReLU还有避免梯度消失的作用，多用于卷积层。
小批量数据基础上运用反向传播算法，通过随机选取小量训练输⼊样本 来计算 ∇C x ，进而估算梯度 ∇C。通过计算少量样本的平均值我们可以快速得到⼀个对于实际 梯度 ∇C 的很好的估算，这有助于加速梯度下降，进而加速学习过程。
一些有意思的问题
Q：为什么输出神经元是十个，而不是4个（2^4=16>10)
A：因为隐藏层表示的是每一个形状的概率值，对于一个特定数字只需专注于构成他的部分是否都存在即可；就好像识别一个人，可以分成这人有眼睛鼻子嘴巴吗？而眼睛里有可以有睫毛，虹膜等组成部分，最后我们都可以归结到像素是否可以组成这个形状
而对于二进制表示，那么隐含层应该和二进制的位有关系，这样的表示不是很奇怪么
后记
11.06 吴亦凡的生日
幸好 十一月还有他的惊喜
吴亦凡对我来说 有种精神支柱的感觉
其实就好像他的歌词中的他一样
一路走来都不那么顺
但还是想像他一样走下去
超很喜欢翻译姐姐的那句不繁亦不凡
11.07
郁闷 不明白为什么全网黑
为什么要造谣
为什么在他生日和第二天
才七天而已的十一月
不知道还会发生什么
希望十一月的我 可以好好的
转载请注明出处，谢谢。
愿 我是你的小太阳
