吴恩达的深度学习课程值不值得学

吴恩达和Udacity的深度学习课程对比,哪个更值得学?
吴恩达和Udacity的深度学习课程对比,哪个更值得学?
俊尚教育机构
作者|AI科技大本营(ID:rgznai100)相信吴恩达公布新项目之一——在线课程已经刷遍朋友圈了,顺带的,连他的生平背景也顺便给缕了一个遍了,AI科技大本营就不凑这个热闹了。不过,本着一丝不苟出产干货的原则,今天,我们要来扒一扒,这个课程到底肿么样?吴恩达亲自上阵授课欲知真相如何,总得对比着来看。那我们就把大火的Udacity搬出来对比一下。我们采访到了一位此前参与了Udacity “深度学习纳米学位”的资深学员,正好他也刚刚体验完吴恩达推出的深度学习课程,他从视频质量及练习题质量等方面对两者进行了详细的对比。Udacity VS Deeplearning.AI我今年三月份报名参加了 Udacity 的深度学习纳米学位,经过几个月的学习,基本了解了神经网络、CNN、RNN、GAN 的概念,并且通过五个项目的联系,具备了一定的动手能力。我的体会是,Udacity 的这个纳米学位课程,精华在于项目。坦率的说,他们家的视频课程的理论讲授部分本身并不是很出色,很多内容我听得云里雾里,比如CNN和 RNN的理论介绍部分,说真的有走过场的感觉。但是这个纳米学位的项目作业的设计不得不点赞。五个大项目,每一个都有详细的目标和完备的 Notebook。Notebook 的内容之清晰,考虑之周到,在我参加过的在线培训课程中无出其右。所有的项目作业都由 Udacity 的老师手工批改,这一点尤其令人感动,批改细致,不但告诉你对不对,还告诉你为什么,有什么更好的做法。更有趣的是,这些改卷的老师还经常跟我说一些鼓励的话,让我很有成就感。按照 Notebook 的要求,你必须反复听课,甚至要参考很多课外资料才能把题目做出来。如果说我从这个过程中学到了一点东西,90%是被项目逼出来的,不是靠听课听出来的。在五个必做项目之外,其实课程本身还示范了上十个项目,比如文本生成、股票价格预测等等,我知道有些同学超级认真,也超级有时间,所有这些示范项目也都完成了,想必学到的东西和编程功力会远在我之上。另外一个要点赞的是这个课程的论坛,非常活跃,超级有爱。现在吴恩达的课程一上线,我马上就注册了,看了几节课,更重要的是看了一下项目的设计。我曾经上过吴恩达的机器学习课程,对他讲授理论的水平超级钦佩,看上去很复杂的问题,他抽丝剥茧、举重若轻的就给讲明白了。在这个新的深度学习课里,我非常激动的感到,吴恩达继续保持了他强大的脑波发射力,真的能帮我把理论上的很多不足和坑填上。从内容来说,其实两个课程覆盖的东西差不多,但吴恩达的课程在结构上明显更具匠心,比如说把 dropout、Mini-batch 这些技术都归于 Optimization 之下,就非常容易帮我搞清楚它们的定位和关系。而我学习 Udacity 课程时,搞了半天都不知道这两个技术的目的是什么,还是参考了很多第三方资料才有所理解。再比如吴恩达课程里专门把超参调校拎出来作为一个模块来讲,这个太重要了。有人说,认为深度学习只是调超参的人,实际上一定是连超参都不会调,所以调超参背后的理论,真的是太重要了。现在很多技术类课程都以“实战”为荣,以“理论”为耻。我觉得这个态度在深度学习这门课里绝对要不得,因为理论太重要了。理论如果不搞懂,你照猫画虎做几个例子就以为自己掌握了,但一遇到新的问题立刻就会抓瞎。从这个意义上来说,吴恩达的课程如果能够延续自己之前在《机器学习》课程中的理论教授水平,那毫无疑问对我们学习者来说是一个巨大的福利。再谈谈练习层面。我看了这个课程当中的一些练习,感觉相比于 Udacity 还是略有进步。第一是可以在线练习、在线训练、在线提交。Coursera 开了一个伴侣网站叫做 coursera-notebooks.org,这个课程的作业以在线 notebook 的形式放在这个伴侣网站上,我们在这个网站上昨晚练习之后,点一个键就可以提交了。而 Udacity 的作业需要自己在本机上做完之后,打包成 zip 文件上传,或由 Github 方式提交,比较麻烦。在这方面吴恩达课程是有优势的。现在我还不知道当做 CNN、RNN 的时候,Coursera 课程是否会自动分配 GPU 资源。在 Udacity 上,我们需要自己去找 GPU 资源(课程官方推荐了一个 GPU 云,但是得自己去注册使用),如果 Coursera-notebooks.org 能够在背后自动动态配置 GPU 资源给学员,那就太牛了。第二是项目练习的题目质量,我觉得目前评价还为时尚早。因为吴恩达课程的第四、第五门,也就是 CNN 和 RNN 的课还没推出来,看不到他会给学生设计怎样的练习题。但是 Udacity 的习题还是不错的,特别是,我再强调一遍,Udacity 的批改老师真的很负责。总之,最近这段时间学习深度学习的朋友们心情大爽,前有 Udacity 的深度学习纳米学位,后有《深度学习》花皮书,现在又来了吴恩达的课程。深度学习者的盛宴时代开始了,酷!此外,鲁朗软件(北京)有限公司联合创始人,花伴侣团队机器学习负责人,AI科技大本营智库专家智亮老师第一时间看到吴恩达课程大纲后,也分享了他的看法:从课程大纲来看,这次的五节内容最大的特点是两个:一个是比较新,思路清晰,且全面,基本上涵盖了学术界最新的进展,虽然还属于比较基础和通用的部分,但是和吴恩达原来的机器学习课程相比,已经算是和学术界的state-of-the-art接轨了。第二个特点就是偏工业,目标比较明确,可以培养工业适用的经济适用型程序猿,它的实战项目确实都非常贴近近期的工业焦点,如自动驾驶、医疗等。习题和项目做完之后,确实足够去做相关行业的工作了。吴恩达有将复杂问题抽丝剥茧讲得很明白的实力,以及他对工业的了解,很可能再次成为一个爆款课程。那么,吴恩达的课程内容有哪些?课程结构如何?有哪些练习题?以下是本次吴恩达即将开启的在线深度学习专项课程的详细介绍,AI科技大本营在第一时间将其全部翻译完毕,来看看吴恩达到底会给想要学习AI的程序猿们带来什么惊喜?课程详细介绍目标:通过这5门课程,你将学会深度学习的基础,弄懂如何搭建神经网络,并掌握如何组织起一个成功的机器学习项目。具体技能:你将会学到卷积网络、RNN、LSTM、Adam、Dropout、BatchNorm、Xavier/He initialization等;了解并学习深度学习在医疗、自动驾驶、手语识别、音乐生成、自然语言处理等领域的真实案例;通过这一“机器学习飞行模拟器”的学习,特别是通过其中具体案例的研究,你将获得接近于真实的“行业经验”,并为面向工业界的机器学习研究做好准备;学到Python和TensorFlow,并亲手打造最先进的深度学习模型。此外,每一门课,你都将能听到来自深度学习顶级专家们的分享,他们会讲讲自己的深度学习故事,并为你的深度学习之路提一些建议。目前,deeplearning.ai会同英伟达的深度学习研究院(Deep Learning Institute)在一些专门的深度学习高等话题上合作,为学生的编程作业提供GPU运算。你将有机会在最先进的工业级环境中打造自己的深度学习项目。▌第一课 神经网络与深度学习即将开课的班次:8月15日—9月18日课程学习时间:4周,每周3-6小时字幕:英语课程概述:如果你想学习最前言的AI知识,本门课程刚好能帮到你。深度学习工程师正受到高度热捧,掌握深度学习相关知识会为您带来无数的全新机遇。深度学习还是一种全新的“超能力”,能让你做出几年前不可能实现的人工智能系统。在本课程中,您将学到深度学习的基础知识。学习完本课程,您将:理解推动深度学习的主要技术趋势能够构建、训练和应用全连接深度神经网络知道如何实现高效(矢量化)神经网络了解神经网络架构中的关键参数本课程还会带你了解深度学习事实上的运作机制,而非仅提供粗略或表层的描述。 完成本课程后,你将能把深度学习应用到你自身的领域之中。如果您想寻求一份与AI相关的工作,学完本课程,您将能够回答一些基本的面试问题。这是深度学习专项课程的的第一门课。第1周:深度学习介绍这部分主要介绍推动深度学习兴起的主要趋势,了解当下深度学习应用的具体方面,以及如何来应用它。吴恩达视频采访:Geoffrey Hinton吴恩达通过视频采访Geoffrey Hinton截图第2周:神经网络基础这一部分我们将学习如何用神经网络来解决机器学习问题,学会如何用矢量化来加速模型。图片截取自第二周课程的Binary Classification专题在线课程吴恩达视频采访:Pieter Abbeel第3周:浅层神经网络这一部分我们将学习使用前向传播和反向传播构建一个带有隐含层的神经网络。吴恩达视频采访:Ian Goodfellow截取自吴恩达面对面采访Ian Goodfellow的视频第 4 周:深度神经网络在这部分,你将了解深度学习中的关键计算,使用它们来构建和训练深度神经网络,并将其应用于计算机视觉。▌第二课 改进深层神经网络:超参数调优、正则化与最优化即将开课的班次:8月15日—9月11日课程学习时间:3周,每周3-6小时课程概述:本课程教你的将是如何把深度学习用得更好的“魔法”。深度学习的内部过程不该是个黑箱,您应当理解性能表现背后的因素,进而更为系统地各种优秀结果。 您还将学会TensorFlow。通过3周的学习,您将:理解打造深度学习应用的行业最佳实践;能够有效地利用普通神经网络的“技巧”,包括初始化、L2和退出正则化、Batch归一化、梯度校验;能够实现和运用各种优化算法,小型Batch梯度下降,Momentum,RMSprop和Adam,并能检验它们的收敛性;理解深度学习时代设置 训练/开发/测试 数据集并分析 误差/方差 的全新最佳实践;能够在TensorFlow中实现神经网络。这是深度学习专项课程的第二门课。第1周:深度学习实践吴恩达视频采访:Yoshua Bengio第2周:算法优化吴恩达视频采访:林元庆第3周:超参数调优、Batch归一化与编程框架▌第三课 构建机器学习项目即将开课的班次:8月15日—9月4日课程学习时间:2周,每周3-4小时课程概述:您将学会如何打造出一个成功的机器学习项目。如果您渴望成为AI领域的技术领导者,并想弄懂如何团队工作设定方向,本课程将为指明道路。本门课程的多数内容来自我开发和推广深度学习产品的经验,其他任何地方均从未有教授。本课程还设有两个用于练习机器学习项目领导决策的“飞行模拟器”,能够提供给你只有经历数年机器学习工作实践才能获取到的“行业经验”。通过2周的学习,您将:弄懂如何诊断机器学习系统中的错误有能力筛选出最有希望降低错误的工作方向理解复杂的机器学习设置,如 训练/测试 数据集的不配备,并能对比 和/或 实现超越人类水平的表现弄懂如何应用端对端学习、迁移学习和多任务学习我遇到过仅仅因为不理解一些机器学习原则而而浪费数月甚至数年时间的团队,所以我要用一门课程来教授这里的原则,希望这个为期两周的课程能帮您省下这些时间。本课程是一门独立课程,只要具备基本的机器学习知识就可以参加。这是深度学习专项课程的第三门课。第1周:深度学习策略 (1)吴恩达视频采访:Andrej Karpathy第2周:深度学习策略 (2)吴恩达视频采访:Ruslan Salakhutdinov▌第四课 卷积神经网络课程内容及时间安排将在数周内公布课程概述:本课程将教您如何构建卷积神经网络并用它来处理图像数据。在深度学习的驱动下,计算机视觉近两年来取得了巨大的进步,从安全的自动驾驶到精确的面部识别再到医学放射影像的自动读取,出现了无数激动人心的应用研究成果。您将:理解如何构建卷积神经网络,包括它最新的变体,如残差网络。弄懂得如何用卷积神经网络来完成视觉检测和识别任务。弄懂如何用风格转换器创造艺术图像。能用这些算法来处理各种各样的图像、视频,以及其他2D或3D数据。这是深度学习专项课程的第四门课。▌第五课 序列模型课程概述:本课程将教会你为自然语言、音频和其他序列数据构建模型。在深度学习的驱动下,序列算法近两年来取得了巨大的进步,语音识别、音乐合成、聊天机器人、机器翻译、自然语言理解等领域涌现出无数激动人心的成果。弄懂如何构建并训练递归神经网络(RNN)及其常用的变体,如GRU、LSTM。能用序列模型解决自然语言问题,包括文本合成问题。能用序列模型实现音频应用,包括语音识别和音乐合成。这是深度学习专项课程的第五门课,也是最后一门。课程相关信息国外媒体称吴恩达此次的在线深度学习项目“Deep Learning Specialization”是迄今为止,最全面、系统和容易获取的深度学习在线课程。登陆Coursera可以观看。日前,5门课程中,前3门课已经就绪,由吴恩达亲自出镜授课。课程将按月费收费,每月49美元。不过,根据Coursera的规则,用户申请的在线课程,前7天里可以无限量访问。目前,7天的免费试用已经开启,感兴趣的小朋友可以火速前往课程围观。不过,这个在线课程在中国大陆无法正常观看,有需要的小伙伴...(你懂的)附:Udacity 深度学习纳米学位课程大纲部分 1:神经网络神经网络是深度学习的基石。在这部分课程中,你将学习神经网络的基本原理,并在实战项目中从头开始构建一个神经网络。部分 2:卷积神经网网络卷积神经网络是解决视觉问题的标准答案。 在无人驾驶车,面部识别,医学影像等领域,都有它的应用。在这部分课程中,你将了解卷积神经网络的基本原理,并在实战项目中用它来解决图片分类问题。部分 3:循环神经网络循环神经网络对预测音乐和文本等有序数据非常有用。利用这个神经网络,你可以生成新音乐,翻译文本,或通过脑电图预测癫痫发作。在这部分课程中,我们将教你如何搭建和训练一个循环神经网络。部分 4:生成对抗网络生成对抗网络是无监督学习的一种。在生成对抗网络中,两个神经网络相互竞争,通常可用于生成图像数据。在这部分课程中,你将学习如何搭建自己的生成对抗网络,并让两个神经网络互相竞争。相关链接https://www.coursera.org/specializations/deep-learning/@andrewng/deeplearning-ai-announcing-new-deep-learning-courses-on-coursera-43af0a368116关注福利关注AI科技大本营,进入公众号,回复对应关键词打包下载学习资料;回复“入群”,加入AI科技大本营学习群,和优秀的人一起成长!回复:CCAI,下载《CCAI 2017嘉宾演讲PPT 》回复:路径,下载深度学习Paper阅读路径(128篇论文,21大领域)回复:法则,下载《机器学习的四十三条经验法则》回复:美团,下载《深度学习在美团外卖的应用,NLP在美团点评的应用》,《NLP在美团点评的应用》pdf回复:沙龙,下载CSDN学院7月15日线下沙龙PPT(蒋涛、孟岩、智亮)回复:对抗,下载台大李宏毅老师关于生成对抗学习视频教程(附PPT)回复:AI报告,下载麦肯锡、波士顿、埃森哲咨询公司AI报告回复:银行,下载银行和证券公司的AI报告回复:人才,下载 2017 领英《全球AI领域人才报告》回复:发展,下载2017 全球人工智能发展报告_框架篇回复:设计,下载人工智能与设计的未来回复:1986,下载李开复1986年论文《评价函数学习的一种模式分类方法》和1990年论文《The Development of a World Class Othello Program》回复:中美,下载《中美两国人工智能产业发展全面解读》(腾讯研究院)
本文仅代表作者观点,不代表百度立场。系作者授权百家号发表,未经许可不得转载。
俊尚教育机构
百家号 最近更新:
简介: 我们让单词记忆更简单!
作者最新文章吴恩达:如何使用深度学习开发人工智能应用
发表于 14:52|
来源飞象网|
作者飞象网
摘要:人工智能顶级会议NIPS大会在巴塞罗那召开,百度首席科学家吴恩达(Andrew Y.Ng)出席并进行了主题演讲。
北京时间12月5日,人工智能顶级会议NIPS大会在巴塞罗那召开,百度首席科学家吴恩达(Andrew
Y.Ng)出席并进行了主题演讲。现场,吴恩达用手写板书的方式为与会者讲解如何使用深度学习开发人工智能应用,并分享自己在人工智能产品开发的策略与技巧。&
在为工业界的从业者带来理念更新的同时,吴恩达还对自己在人工智能领域的人生经验进行分享。&我从没试过一次就得出正确的模型架构&吴恩达对自己经历的朴实客观分享,让在场的很多从业者不仅获得技术指导更如同吃了&定心丸&。
NIPS (Advances in Neural Information Processing
Systems)中文名为&神经信息处理系统进展大会&,是每年12月由NIPS基金会主办的机器学习和神经计算领域的顶级会议,在机器学习领域有着举足轻重的学术影响力。随着人工智能的高速发展,2016年NIPS的讨论焦点也集中在机器学习与人工智能,并邀请Yann
LeCun(Facebook 人工智能研究室FAIR负责人)、Irina Rish(IBM Watson
研究中心成员)等国际专家参与。其中,百度首席科学家、斯坦福大学计算机科学系和电子工程系副教授吴恩达参与大会教程(tutorial)环节,人气颇高。&
由于神经网络(NN)可以扩大规模(scale),甚至是可以无限地扩展,深度学习成为人工智能领域未来发展的大潮流。对此,吴恩达认为没有人能做到在系统构架(底层)与深度学习(算法)方面都是专家,并针对深度学习技术创业公司的团队建设,分享了其在百度的架构经验。
在深度学习大潮中,端到端学习成为近几年的技术风口,随着技术发展,更纯粹的端对端学习成为了可能。但由于缺少足够大的训练集,直接的端对端学习也有不太奏效的时候。作为人工智能成果的集大成者,无人车在机器学习领域仍有很大发展空间,吴恩达在演讲中描述了无人驾驶的传统模型:通过图片观测附近的车(cars)与行人(pedestrians),计算出该有的路径规划(plan),然后通过公式/规则判断出应该进行的下一步行动(steering),如果可以直接把图片处理成最终的操作指令可以指数级提高反应速度,带来效率提升。
吴恩达认为,很多企业都没有正确对待训练集误差、人类误差值、测试集误差,三者之间的关系,而在数据合成方面,很多公司又&总想搞个大新闻&。他建议企业使用
unified data
warehouse(统一化的数据中心),让数据科学家可以&安心的玩数据&。并分享了基于人类误差、训练集误差,训练-开发集误差、开发集误差、测试集误差五类误差值的新的处理策略。
在演讲的最后,吴恩达提出了对人工智能的展望,他认为由于现有的有标签数据还远没有被发掘完毕,supervised
learning(监督学习)将继续快速发展下去,同时unsupervised learning(无监督学习)、 reinforcement
learning(强化学习)、transfer
learning(迁移学习)也将在未来起步。同时,吴恩达也对现场的从业者提出更具实用性的经验:人工智能产品经理需要选择工程师应该关注的重点,从而让数据集能更准确地模拟出应用场景,简单来说就是寻找用户需求与当今机器学习技术的能力的交集。
原文链接:
推荐阅读相关主题:
CSDN官方微信
扫描二维码,向CSDN吐槽
微信号:CSDNnews
相关热门文章登录网易通行证
使用网易通行证(含网易邮箱)帐号登录
提交您的投诉或建议
视频画面花屏
视/音频不同步
播放不流畅
分享给朋友:
扫描分享给微信好友和朋友圈
扫一扫分享给微信好友和朋友圈
通过代码可以让这个视频在其它地方上播放!
复制FLASH代码
复制HTML代码
复制页面地址
使用公开课APP下载视频
扫描二维码 手机继续看
扫描二维码在手机上继续观看,
还可分享给您的好友。
没有公开课客户端?
登录后才能查看我的笔记
暂时没有笔记!
确定删除笔记?
即将播放下一集,请您保存当前的笔记哦!
对字幕纠错要登录哦!
内容不能少于3个字
吴恩达博士是Google Brain项目的发起人和领导者,斯坦福大学的计算机科学教授,Coursera的联合创始人和联合主席。他还曾任百度的副总裁和首席科学家,在这里,他领导了约1300人的人工智能团队,并负责百度的国际人工智能战略和基础建设。由 deeplearning.ai 出品,网易引进的正版授权中文版深度学习工程师微专业课程,让你在了解丰富的人工智能应用案例的同时,学会在实践中搭建出最先进的神经网络模型,训练出属于你自己的 AI。
系统介绍课程主旨,内容及学习目的
本集吴恩达教授对话嘉宾:Geoffrey Hinton。Geoffrey Hinton是计算机学家、心理学家、盖茨比计算神经科学中心的创始人,多伦多大学计算机科学系教授。2013年加入Google,以神经网络方面的杰出贡献闻名,是反向传播算法和对比散度算法的发明人之一,也是深度学习的积极推动者。
对话嘉宾:Pieter Abbel加州大学伯克利分校计算机系副教授,斯坦福大学计算机学系博士
对话嘉宾:Andrej Karpathy。斯坦福大学计算机系博士,特斯拉人工智能研究部门总监。
对话嘉宾:Ian Goodfellow。Brain研究员,深度学习教科书第一作者,生成对抗网络GAN提出者
对话嘉宾:Ruslan Salakhutdinov。卡内基梅隆大学教授,苹果人工智能研究部门总监。
[第8课]神经网络巨头的学习之路
对话嘉宾:Yoshua Bengio。加拿大蒙特利尔大学教授,蒙特利尔机器学习研究所(MILA)的负责人,神经网络三大巨头之一,人工智能孵化器Element AI联合创始人之一,2017年成为微软人工智能研究顾问
学校:中国
讲师:吴恩达
授课语言:英文
类型:演讲 教育 科技
课程简介:吴恩达博士是Google Brain项目的发起人和领导者,斯坦福大学的计算机科学教授,Coursera的联合创始人和联合主席。他还曾任百度的副总裁和首席科学家,在这里,他领导了约1300人的人工智能团队,并负责百度的国际人工智能战略和基础建设。由 deeplearning.ai 出品,网易引进的正版授权中文版深度学习工程师微专业课程,让你在了解丰富的人工智能应用案例的同时,学会在实践中搭建出最先进的神经网络模型,训练出属于你自己的 AI。
扫描左侧二维码下载客户端}

我要回帖

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信