五、 神经网络
1. 神经网络是有拥有适应性的简单单元组成的广泛并行互联的网络，他的组织能够摹拟生物神经系统对真实世界物体所做出的交互反映。文章源自微观生活（93wg.com）微观生活-https://93wg.com/4740.html
神经元模型是一个神经元与其他相连，当它兴奋时，他会向相邻的神经元发射带有权重的信号；单个神经元接管的的总信号超越阈值则会被激活，依此类推。它拥有嵌套、迭代的特性。文章源自微观生活（93wg.com）微观生活-https://93wg.com/4740.html
2. 感知机与多层网络文章源自微观生活（93wg.com）微观生活-https://93wg.com/4740.html
感知机：运用机器学习的办法训练得到权重及阈值；若训练样例结果与实际结果相同，则不调剂；若结果不同则通过一个小的学习率参数微调其权重与阈值，再次验证，直至得到结果。本色是迭代-验证的循环。文章源自微观生活（93wg.com）微观生活-https://93wg.com/4740.html
单层网络的感知机至关于在平面坐标系找到一条线将正例反例分开；这不合用于大多数场景，因而需要把网络进级为多层。多层前馈网络包括隐层、且拓扑上不存在环与回路。训练多层网络，也是计算每一一层神经元的权重与阈值。文章源自微观生活（93wg.com）微观生活-https://93wg.com/4740.html
3. 误差逆传布算法文章源自微观生活（93wg.com）微观生活-https://93wg.com/4740.html
进行微分，通过微分结果取得梯度项，带入函数更新权重与阈值。文章源自微观生活（93wg.com）微观生活-https://93wg.com/4740.html
按此流程逐渐迭代，直至找到最优解。这里面每一次迭代的单位即为学习率为了避免目标函数的局部极小，通常策略有三种：a. 多组不同的参数同时开始训练，从当选择最相符的结果；b. 退火法：进一大步退一小步，转圈多迭代，以跳过局部极小；c. 在计算梯度时加入随机因素，增添迭代次数跳出局部极小。文章源自微观生活（93wg.com）微观生活-https://93wg.com/4740.html
4. 深度学习文章源自微观生活（93wg.com）微观生活-https://93wg.com/4740.html
无监督逐层学习每一次训练一层隐节点，训练时将上一层隐节点的输出作为输入，以此迭代，此为预训练。以后再微调训练。文章源自微观生活（93wg.com）微观生活-https://93wg.com/4740.html
此预训练+微调的做法可以理解为将参数按层分组，寻觅局部最优解在联合调优，得到结果。
深度学习的本色是把输入信号逐层加工，把与输出目标关系较小的输入逐渐转化为关系亲密的显示。把低层特征转化为高层特征，再用简单模型完成份类学习。
5. 神经网络&深度学习本色是用统计学的办法，通过特定算法，把大量数据逐层迭代调优，最后取得完全数据模型。它依赖于大量数据与运算能力。其特征的设计需要人为介入，且各项参数可能并无特定的数学意义，只有统计学的验证。——这以及语义模型的算法相似，统计可能比定义更有用。
前文链接：
《机器学习-西瓜书》读书笔记（一）
https://www.toutiao.com/i6687574814942560776/
《机器学习-西瓜书》读书笔记（二）
https://www.toutiao.com/i6688311024719757831/
《机器学习-西瓜书》读书笔记（三）
https://www.toutiao.com/i6688684117099282955/
以上就是微观生活（93wg.com）关于“《机器学习-西瓜书》读书笔记（四）-神经网络”的详细内容，希望对大家有所帮助！
评论