为标准化比例系数B中的B值常量是负值有问题吗求大神帮我看看我这个存在什么问题谢谢

点击联系发帖人 时间：2020-05-17 04:08

B系数

主要是在读这本书记的笔记强烮推荐这本书

10 正则化操作与学习率衰减

注意正则项的比例系数B的大小非常重要，如果太大会极大的抑制参数的更新，导致欠拟合如果太小，那么正则项这个部分基本没有贡献所以选择一个合适的权重衰减比例系数B非常重要．一般尝試会用1e-4或者1e-3来进行。

或者用参数组的方式实现：
参数组：就是我们可以将模型的参数分成几个组每个组定义一个学习率。这个参数组是┅个字典里面有很多属性，比如学习率权重衰减等等

# 训练途中修改学习率

此部分最好自己手动实现各個网络

}

主要是在读这本书记的笔记强烮推荐这本书

注意正则项的比例系数B的大小非常重要，如果太大会极大的抑制参数的更新，导致欠拟合如果太小，那么正则项这个部分基本没有贡献所以选择一个合适的权重衰减比例系数B非常重要．一般尝試会用1e-4或者1e-3来进行。

或者用参数组的方式实现：
参数组：就是我们可以将模型的参数分成几个组每个组定义一个学习率。这个参数组是┅个字典里面有很多属性，比如学习率权重衰减等等

# 训练途中修改学习率

此部分最好自己手动实现各個网络

}