机器学习-kNN实现简单的手写数字识别系统 - 简书
机器学习-kNN实现简单的手写数字识别系统
不积跬步，无以至千里
利用k-邻近算法，实现识别数字0到9
Python3.5（）
数据集和项目源代码
下面是32*32的黑白图像
32* 32像素数据集
为了方便处理，提供了文本文件
数据集分为训练集和测试集，其中训练集是已经分类好的数据，测试集是用来测试算法。
将数据转换为特征向量
从上图可知，拿到的是32*32的的矩阵，每一个点是一个像素值，将这1024（32 ?32）个数值，转换成（1，1024）的向量。
数据转换为特征向量
参考这篇文章
输入测试集，测试算法
看看选择不同的k值，分类效果如何
取不同的k值
这里看错误的个数，绘制一个折线图注意：执行时间比较长，去喝杯咖啡吧
这里取1-4，当然你也可以取更高的k值（速度慢）
实验结果证明，取k=3，效果比较好。
txt转换为png图像
为了更具真实性，同样写了txt转换为png的代码。
数据集如果稍大一点，执行时间会变得非常长
敏而好学，多思多问君，已阅读到文档的结尾了呢~~
手写数字识别的原理及应用,手写体数字识别,手写数字识别,数字图像识别原理,射频识别原理与应用,数字音频原理与应用,千彩手写识别系统,手写识别,手写识别系统,逍遥笔手写识别输入
扫扫二维码，随身浏览文档
手机或平板扫扫即可继续访问
手写数字识别的原理及应用
举报该文档为侵权文档。
举报该文档含有违规或不良信息。
反馈该文档无法正常浏览。
举报该文档为重复文档。
推荐理由：
将文档分享至：
分享完整地址
文档地址：
粘贴到BBS或博客
flash地址：
支持嵌入FLASH地址的网站使用
html代码：
&embed src='/DocinViewer--144.swf' width='100%' height='600' type=application/x-shockwave-flash ALLOWFULLSCREEN='true' ALLOWSCRIPTACCESS='always'&&/embed&
450px*300px480px*400px650px*490px
支持嵌入HTML代码的网站使用
您的内容已经提交成功
您所提交的内容需要审核后才能发布，请您等待！
3秒自动关闭窗口瑞为 AI 小讲堂|识别手写数字的简单神经网络
声明：本文源于/chap1.html的阅读笔记。
一个神经网络主要包括输入层， 隐藏层，输出层。
输入、输出和隐藏层：
设计一个神经网络的输入与输出通常很容易。 例如 我们想识别一张照片是不是数字 “9”。假设这是一张 64x64的灰度照片（灰度值在0-1之间），那么输入是 64x64个神经元（代表每个像素的灰度值）输出是一个神经元，output&0.5表示照片不是9，output&=0.5 表示照片是 9。
但是设计隐藏层却不容易，不是用几条简单的规则就能总结出整个设计过程,不过神经网络的研究者们发明了一些隐藏层设计的启发式方法。例如有些启发式方法用于在神经网络的隐藏层数量和网络训练时间之间做权衡。后文会详细介绍。
前馈网络和循环网络：
目前为止我们讨论的网络都是一层的输入作为下一层的输出。这种网络叫做前馈网络（ feedforward neural networks），这一意味着网络中没有循环，所有信息都是向前传递而没有向后反馈。换句话说如果有循环，函数的输入与其输出有关，我们很难理解这种情况，所以不允许有这样的循环。
但是 有一些人工神经网络是存在反馈循环的，例如循环神经网络（recurrent neural networks） 。关键点在于神经元是在有限的一段时间内响应然后保持安静。这个响应可能会刺激其它神经元，是它们稍后做出一段时间的响应。接着又会刺激其它更多的神经元稍后做出一段时间的响应。我们得到了一个级联的神经元连锁响应。这种模型中循环不会有问题，因为一个神经元的输出只会在过一段时间之后才能影响它的输入，不是瞬间产生反馈效应。
循环神经网络不如前馈网络那么有影响，原因之一是循环网络的学习算法不够强大。但是循环神经网络很有趣，他比前馈网络更贴近于我们大脑的工作模式，它可以很好的解决一些对于前馈网络来说很困难的问题。
一个识别手写数字的简单网络
假如有一些手写照片：
第一步：对照片进行分割 (可以用多种方法进行分割，例如： 通过对分割后照片识别的置信概率对每次分割进行打分，得分高的代表分割的好） 关键还是下一步单个照片识别，所以此处一笔带过
第二步：对单个照片进行识别 （假设单张数字照片28x28 pixel）
我们设计一个神经网络对单个数字照片进行识别：
输入层是整张照片的像素值（784 = 28 x 28 ，每个像素是0.0-1.0之间的灰度值，0.0代表白色，1.0代表黑色 ），隐藏层只有15个神经元。输出层包含10个神经元。根据哪个输出神经元拥有更高的响应值，最终决定照片是哪个数字（例如 5号输出神经元的响应值是 0.9 ，其它输出神经元的响应都是 0.2 ，很明显 该照片是 最有可能是数字5）。
为什么要用10个神经元作为输出？ 其实 4个神经元就足够编码出所有的数字（2^4=16）但是经验表明，10个神经元输出比4个神经元输出的效果要好。
我们做一个启发式的说明解释神经网络如何识别下面的图片是数字 0
假设第一个隐藏层神经元 遇到下图的模式就会做出强烈响应( 输出接近于1) ，因为它在下图黑色像素点的对应权值w很高，其它权值接近于0。一旦出现类似下图的模式图案，它自然做出激烈反应 (
同理第二，第三，第四个隐藏层神经元分别对下图的模式会有强烈反应。
现在假如 隐藏层的 1，2，3，4神经元输出都接近1，而其它6个隐藏层神经元输出接近于0。显然 我们即有理由相信 该照片为数字 0 。 因为 这几个模式碎片拼起来就是数字 0：
对应的只需要输出层的0号神经元在这四个隐藏层神经元的权重接近于1，在其它隐藏层神经元的输出接近于0，就可以说这个0号隐藏层神经元会对 数字0 的图片模式做出激烈反应了。
但是假如我们用 4个输出神经元bit来编码 10个数字
数字和对应的输出神经元之间没有一一对应关系。例如数字8和9都会导致神经元0号做出响应。
不过上面只是做一个启发式说明，让大家理解神经元可能的工作机理。具体细节可能不完全相符。
责任编辑：
声明：本文由入驻搜狐号的作者撰写，除搜狐官方账号外，观点仅代表作者本人，不代表搜狐立场。
卓越的图像智能感知产品和方案提供
基于人脸识别的精准，实时客群分析，vip识别，客流统计分析系统，商品客流统计系统
今日搜狐热点MNIST 手写数字识别错误率要达到多少，才算合格啊？【人工智能吧】_百度贴吧
&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&签到排名：今日本吧第个签到，本吧因你更精彩，明天继续来努力！
本吧签到人数：0成为超级会员，使用一键签到本月漏签0次！成为超级会员，赠送8张补签卡连续签到：天&&累计签到：天超级会员单次开通12个月以上，赠送连续签到卡3张
关注：60,172贴子：
MNIST 手写数字识别错误率要达到多少，才算合格啊？收藏
MNIST 手写数字识别60000的训练10000的测试的那个数据错误率要达到多少，才算合格啊？我做的rmb dbn 可以到5%，算什么水平啊？请教再怎么降低啊？
百度AI开放平台将60多种人工智能技术全面开放,为您提供大量案例,教学视频等,帮助各类开发者快速上手,接入使用,创造价值.
Cires¸an, D Ueli Meier, J¨urgen Schmidhuber (2012). "Multi-column deep neural networks for image classification". 2012 IEEE Conference on Computer Vision and Pattern Recognition: . arXiv:. doi:10.1109/CVPR.. ISBN 978-1-.目前最好成绩是dbn和cnn嫁接的产物
你用的是matlab平台上的deep learning工具箱吧，那上面cnn的成绩是多少来着？
matlab平台上的deep learning工具箱的几点体会：1 我用的xp系统32位的matlab,做nn时说内存不够，32的限制，做数据预处理是就报内存不够，所以，修改一下，训练集只用前30000个，就好了2 看到用普通的nn时，先做预处理很重要，如果不做预处理，用sigmoid就错误大增，增加次数也训练不好，为什么对均值和方差的预处理有这么大的效果呢？3 看到dbn时，因为先用了rbm，不先做预处理，效果也不错，为什么呢？4 rbm的cd采样修正w的公式看着很简单啊，有什么直观的理解和解释吗？不说那一堆求导数的，有几句话的感性的直观解释吗？应该有吧。盼答疑。
有做到0.99以上的大神吗？
42000 训练 28000测试 识别率0.97 求提高 用的是svm
网上的开源代码都做到95.5%的准确率了。搜索CNW CNN c# mnist demo。。。
99.5%准确率
求rbm dbn的代码啊！！
我觉得 非监督学习在没有大量输入样本的情况下，收敛肯定要比监督学习慢很多。
我是一个小白，昨天才在anaconda上装好了keras，然后就运行了自带的mnist_cnn，然后就睡觉了，今天来一看，最后的Test accuracy是0.9913。难道这是分类准确率吗，难道这不是吗？怎么会这么高？
是准确率，差不多就是这样没GPU,所以很慢我现在可以做到99.5%
最终训练的结果如何拿来建模，用于测试啊？希望大神赐教...就是输入一幅图像，比如数字“2”，它给出输出结果2.。。。初学CNN，希望大家帮助 哇~~
加入dropout试试？
楼主，MNIST 手写数字识别学的怎么样了？能交流学习一下吗？我邮箱，谢谢楼主。
看现在这个帖子发的挺早了，PCANet能做到99.3%以上，PCANet是15年12月发的吧。
登录百度帐号推荐应用}