通过引入深度残差学习框架解決了退化问题。
随着网络深度的增加精度达到饱和并且会迅速退化。退化并不是由过拟合引起的给一个合适深度的网络增加更多层时,训练误差会增加
残差方程F比较弹性,层数不小于2即可
在每个卷积之后,激活之前使用批归一化
将cifar10数据库转换成lmdb数据库文件
用create_resnet.py生成训練测试网络文件然后用github上的netscope检查生成的训练测试网络文件是否正确
用caffe/tools下的log分析工具分析log文件,得到训练误差变化曲线和准确率变化曲线