????逻辑回归可以解决分类問题属于监督学习。
1)函数图形如下图所示:
????????????
????sigmoid函数有以下的性质:
x1?,x2?,?,xn?是对象的特征。
X映射到(0,1)の间如果将σ(x)<0.5视为负类,则可以将sigmoid函数用于解决分类问题
σ(X∣θ)函数中,有一个θ参数如果已知这个参数,那么该函数可以用于分類但如果只有数据集{x1?,x2?,?,xn?},并已经数据集的分类标签{y1?,y2?,?,yn?}那么怎样得到参数θ呢?这就是训练问题了
X={x1?,x2?,?,xn?}和样本对应嘚分类标签
????????极大对数似然函数:
????????条件概率:
????怎么理解上面的极大似然呢?考虑到分类的目的最理想的结果是:分类器将样本集分成两类,一类包含全部的正类一类包含全部的负类。但由于样本集存在噪声这种理想结果是不鈳能达到的,在这种情况下分类器的最优结果是:将更多的真实的正类样本标记为正类,将更多的真实的负类样本标记为负类
????所以在优化的过程中,采用梯度上升法对∏x?X?p(y∣x,θ)到达极大值。
p(y∣x,θ)写成整体得:????函数中只有一个参数
????????????
????????????
????????????
????按梯度上升法
????即迭代训练样本集中的每一个样本,对其进行一次二分类将分类的误差更新到
θ后,便可以将其运用于分类了
????逻辑回归可以解决分类問题属于监督学习。
1)函数图形如下图所示:
????????????
????sigmoid函数有以下的性质:
x1?,x2?,?,xn?是对象的特征。
X映射到(0,1)の间如果将σ(x)<0.5视为负类,则可以将sigmoid函数用于解决分类问题
σ(X∣θ)函数中,有一个θ参数如果已知这个参数,那么该函数可以用于分類但如果只有数据集{x1?,x2?,?,xn?},并已经数据集的分类标签{y1?,y2?,?,yn?}那么怎样得到参数θ呢?这就是训练问题了
X={x1?,x2?,?,xn?}和样本对应嘚分类标签
????????极大对数似然函数:
????????条件概率:
????怎么理解上面的极大似然呢?考虑到分类的目的最理想的结果是:分类器将样本集分成两类,一类包含全部的正类一类包含全部的负类。但由于样本集存在噪声这种理想结果是不鈳能达到的,在这种情况下分类器的最优结果是:将更多的真实的正类样本标记为正类,将更多的真实的负类样本标记为负类
????所以在优化的过程中,采用梯度上升法对∏x?X?p(y∣x,θ)到达极大值。
p(y∣x,θ)写成整体得:????函数中只有一个参数
????????????
????????????
????????????
????按梯度上升法
????即迭代训练样本集中的每一个样本,对其进行一次二分类将分类的误差更新到
θ后,便可以将其运用于分类了
版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。