深度学习笔记 I – 卷积神经网络的直观解释 A - Architecture
缘起深度学习的热潮开始影响芯片整体设计流程。教授一声令下,我们几个小学生按照教授指哪我们打哪的一贯作战方针,都开始从零开始学习机器学习。希望可以借助steemit平台基于块链技术不能更改的特性,督促自己认真对待学习的知识(
为了不写错的内容),这个系列将更新至我发完第一篇关于深度学习的论文为止(鬼知道什么时候)。也希望可以同刚刚进入机器学习,深度学习的朋友有一个交流的机会。我知道中文区有机器学习的大神,希望遇到不懂的时候,可以得到你们的帮助。
翻看了一些中文的入门文章,可能自己没有遇到特别好的,因为数学不好的缘故,就一个入门的卷积神经网络(CNN)就把我吓坏了,如同当年在高数已经完全忘记的情况下和导师一起彻夜学习傅里叶变换和小波变换。导师推荐了一篇讲卷积神经网络的可以作为第一篇入门的博客文章,在征得原作者ujjwalkarn的同意后,把这篇文章用自己的理解和中文记录下来作为开篇。
什么是卷积神经网络?为什么卷积神经网络很重要?
卷积神经网络(Convolutional Neural Networks)是神经网络中的一类,已经被证明可以高效地应用在图像识别和分类领域中。卷积神经网络已经成功地识别脸部,物体和交通信号等等。
在图一中,卷积神经网络能够识别画面中的场景并可以给出关联的说明文字(例如:一个足球运动员正在踢足球)。图二展示了卷积神经网络可以用来识别日常用品和动物。
(图片1 来源1)
(图片2 来源2)
LeNet 结构(1990s)
LeNet是非常早地推动深度学习领域发展的一种卷积神经网络。这项开创性的工作由Yann LeCun在1988年提出,在经历了多次成功改进后,被命名为LeNet. 在当时,LeNET 结构主要被用来执行一些简单识别任务,包括邮编和数字。
近年来,已经有一些新的优于LeNet的卷积神经网络结构被提出,但是它们都是基于LeNet结构的主要想法,所以为了更好得理解卷积神经网络,了解清楚LeNet结构对于后面的学习有很帮助。
在图三中的卷积神经网络和原始的LeNet拥有相似的结构。其任务是识别一张图片,从图中可以看出,待识别的图片是一艘船,网络最终正确地给出了可能性最高(0.94)是船的结果(从狗,猫,船和鸟四中类型中)。
(图片3 来源3)
图三中的卷积神经网络主要包括了四大主要操作 (不会翻译):
1 Convolution
2 Non Linearity
3 Pooling
4 Classification
这四步操作在所有的卷积神经网络中都是最基本的构件。
详解这四象操作之前,一句话带过一个基本信息:图像是由像素组成的一个大数组;彩色图有RGB三层(channel),代表,红,绿,蓝,每个像素值从0到255;灰度图只有一层,像素0代表黑色,255代表白色。例如下面的图片表示的是数字8.
(图片4 来源4)
This post was originally inspired from An Intuitive Explanation of Convolutional Neural Networks by ujjwalkarn, I got the permission from original author by e-mail let me use it. All images and animations used in this post belong to their respective authors as listed in References section below.
References
1.karpathy/neuraltalk2: Efficient Image Captioning code in Torch, Examples
2.Shaoqing Ren, et al, “Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks”, 2015, arXiv:1506.01497
3.Clarifai / Technology
4.Machine Learning is Fun! Part 3: Deep Learning and Convolutional Neural Networks
哈哈,开始写论文啦🍗🍟🥘🍣🥙🌮🍕支持,跟你一起学习,费脑子要多吃点!
哈哈,和你的专业能联系上吗?
联系不上……我是研究通讯网络优化的……
不都是网络吗,哈哈。我之前也一直以为和我的联系不上的。。。
我这个网络比你那个神经网络可简单多了……哈哈
无线网络吗?
WDM光纤网络。
不懂,但隐约觉得可以用在伪造字画上……(ㅍ_ㅍ)
哎呀,让我想到了好像可以用来检测真伪上面啊。。。。
不过现在造假技术那么高。。。我只想到了卷积公式
从论文的角度,这两年神经网络应该不是高潮期了吧?是真的能够解决IC设计的一些问题?
我们做低功耗芯片,现在AI芯片不是很火吗,我们想在这个网络里做些功耗方面的优化。
嗯嗯,了解了。你这种毕业如果回国的话应该很吃香。
唉,学艺不精。
之前在学校的时候,实验室每个暑假都会开一门PRML的讨论课,当时很多听不懂,后来发现那本书讲的还挺有用的。
果然开始写论文了!我想了,写不动我就好好追随你们好了,等你们混成大鲸肯定能赏我个 4% -_-#
从零学习,确实没什么时间写其他东西了。
嗯 嗯 ,不管写什么,我都支持你。
3Q!
恭喜你!您的这篇文章入选 @justyy 今日榜单 【优秀被错过的文章】, 请再接再厉!
Congratulations! This post has been selected by @justyy as today's 【Good Posts You May Miss】, Steem On!
Thanks YY!