1. 回顾与本文概述2. 算子支持、Dispatch机制1. dispatch原理2. PyTorch算子流程3. 反向传播1. 反向算子及其注册2. PyTorch反向计算原理3. 反向算子有哪些4...
1. 代码架构2. 前端&后端1. 概念2. 前端3. 后端4. 前后端交互3. 动态图、静态图1. 概念2. PyTorch图原理概述 第一篇文章节作为整体预览，一方面介绍代码的整体架构，一方面普及...
作者：张雨石自今年七月份以来，一直在实验室负责卷积神经网络（Convolutional Neural Network，CNN），期间配置和使用过theano和cuda-convnet、cuda-con...
这其实是一个理解上的误区：陷入局部最优其实不是神经网络的问题，在一个非常高维的空间中做梯度下降，这时的local minimum是很难形成的，因为局部最小值要求函数在所有维度上都是局部最小的。实际情况...