到底什么是深度学习?

什么是学习?

说到“深度学习”,追根溯源,我们需要先知道什么是“学习”。
著名学者赫伯特 ·西蒙教授( Herbert Simon, 1975 年图灵奖获得者、 1978 年诺贝尔经济学 奖获得者)曾对“学习”下过一个定义:“如果一个系统,能够通过执行某个过程,就此改进了它的性能,那么这个过程就是学习”。
大师果然名不虚传,永远都是那么言简意贼一针见血。 从西蒙教授的观点可以看出,学 习的核心目的就是改善性能。
其实对于人而言,这个定义也是适用的。 比如,我们现在正在学习深度学习的知识,其本质目的就是为了提升自己在机器学习上的认知水平。 如果我们仅仅是低层次的重复性学习,而 没有达到认知升级的目的,那么即使表面看起来非常勤奋,其实也仅仅是一个“伪学习者”,因 为我们没有改善性能。
按照这个解释,那句著名的口号“好好学习,天天向上”,就会焕发新的含义:如果没有性 能上的“向上”,即使非常辛苦地 “好好”, 即使长时间地 “天天“,都无法算作学习。

什么是机器学习?
遵循西蒙教授的观点,对于计算机系统而言,通过运用数据及某种特定的方法(比如统计的方法或推理的方法),来提升机器系统的性能,就是机器学习。
英雄所见略同。卡内基梅隆大学的Tom Mitchell教授,在他的名作《机器学习》一书中,也给出了更为具体(其实也很抽象)的定义:
对于某类任务(Task,简称T)和某项性能评价准则(Performance,简称P),如果一个计算机程序在T上,以P作为性能的度量,随着很多经验(Experience,简称E)不断自我完善,那么我们称这个计算机程序在从经验E中学习了。
比如说,对于学习围棋的程序AlphaGo,它可以通过和自己下棋获取经验,那么它的任务T就是“参与围棋对弈”;它的性能P就是用“赢得比赛的百分比”来度量。“类似地,学生的任务T就是“上课看书写作业”;它的性能P就是用“期末成绩”来度量”
因此,Mitchell教授认为,对于一个学习问题,我们需要明确三个特征:任务的类型,衡量任务性能提升的标准以及获取经验的来源。

深度学习属于统计学习的范畴。用李航博士的话来说,统计机器学习的对象,其实就是数据。这是因为,对于计算机系统而言,所有的“经验”都是以数据的形式存在的。作为学习的对象,数据的类型是多样的,可以是各种数字、文字、图像、音频、视频,也可以是它们的各种组合。
统计机器学习,就是从数据出发,提取数据的特征,抽象出数据的模型,发现数据中的知识,最后又回到数据的分析与预测当中去。
在深度学习中,经常有“end-to-end(端到端)”学习的提法,与之相对应的传统机器学习是“Divide and Conquer(分而治之)”。这些都是什么意思呢?
“end-to-end”(端到端): 说的是,输入的是原始数据(始端),然后输出的直接就是最终目标(末端),中间过程不可知,因此也难以知。
比如说,基于深度学习的图像识别系统,输入端是图片的像素数据,而输出端直接就是或猫或狗的判定。这个端到端就是:像素–>判定。
再比如说,“end-to-end”的自动驾驶系统[4],输入的是前置摄像头的视频信号(其实也就是像素),而输出的直接就是控制车辆行驶指令(方向盘的旋转角度)。这个端到端就是:像素–>指令。
就此,有人批评深度学习就是一个黑箱(Black Box)系统,其性能很好,却不知道为何而好,也就是说,缺乏解释性。其实,这是由于深度学习所处的知识象限决定的。从图可以看出,深度学习,在本质上,属于可统计不可推理的范畴。“可统计”是很容易理解的,就是说,对于同类数据,它具有一定的统计规律,这是一切统计学习的基本假设。那“不可推理”又是什么概念?其实就是“剪不断、理还乱”的非线性状态了。

在哲学上讲,这种非线性状态,是具备了整体性的“复杂系统”,属于复杂性科学范畴。复杂性科学认为,构成复杂系统的各个要素,自成体系,但阡陌纵横,其内部结构难以分割。简单来说,对于复杂系统,1+1≠2,也就是说,一个简单系统,加上另外一个简单系统,其效果绝不是两个系统的简单累加效应,而可能是大于部分之和。因此,我们必须从整体上认识这样的复杂系统。于是,在认知上,就有了从一个系统或状态(end)直接整体变迁到另外一个系统或状态(end)的形态。这就是深度学习背后的方法论。
与之对应的是 “Divide and Conquer(分而治之)” ,其理念正好相反,在哲学它属于“还原主义(reductionism,或称还原论)”。在这种方法论中,有一种“追本溯源”的蕴意包含其内,即一个系统(或理论)无论多复杂,都可以分解、分解、再分解,直到能够还原到逻辑原点。
在意象上,还原主义就是“1+1=2”,也就是说,一个复杂的系统,都可以由简单的系统简单叠加而成(可以理解为线性系统),如果各个简单系统的问题解决了,那么整体的问题也就得以解决。比如说,很多的经典力学问题,不论形式有多复杂,通过不断的分解和还原,最后都可以通过牛顿的三大定律得以解决。
经典机器学习(位于第Ⅱ象限),在哲学上,在某种程度上,就可归属于还原主义。传统的机器学习方式,通常是用人类的先验知识,把原始数据预处理成各种特征(feature),然后对特征进行分类。
然而,这种分类的效果,高度取决于特征选取的好坏。传统的机器学习专家们,把大部分时间都花在如何寻找更加合适的特征上。因此,早期的机器学习专家们非常苦逼,故此,传统的机器学习,其实可以有个更合适的称呼——特征工程(feature engineering)。
但这种苦逼,也是有好处的。这是因为,这些特征是由人找出来的,自然也就为人所能理解,性能好坏,机器学习专家们可以“冷暖自知”,灵活调整。

什么是深度学习?
再后来,机器学习的专家们发现,可以让神经网络自己学习如何抓取数据的特征,这种学习的方式,效果更佳。于是兴起了特征表示学习(feature representation learning)的风潮。这种学习方式,对数据的拟合也更加的灵活好用。于是,人们终于从自寻“特征”的苦逼生活中解脱出来。
但这种解脱也付出了代价,那就是机器自己学习出来的特征,它们存在于机器空间,完全超越了人类理解的范畴,对人而言,这就是一个黑盒世界。为了让神经网络的学习性能,表现得更好一些,人们只能依据经验,不断地尝试性地进行大量重复的网络参数调整,同样是“苦不堪言”。于是,“人工智能”领域就有这样的调侃:“有多少人工,就有多少智能”。
因此,你可以看到,在这个世界上,存在着一个“麻烦守恒定律”:麻烦不会减少,只会转移。
再后来,网络进一步加深,出现了多层次的“表示学习”,它把学习的性能提升到另一个高度。这种学习的层次多了,其实也就是套路“深了”。于是,人们就给它取了个特别的名称——Deep Learning(深度学习)。
深度学习的学习对象同样是数据。与传统机器学习所不同的是,它需要大量的数据,也就是“大数据(Big Data)”。
有一个观点,在工业界一度很流行,那就是在大数据条件下,简单的学习模型会比复杂模型更加有效。而简单的模型,最后会趋向于无模型,也就是无理论。
例如,早在2008年,美国 《连线》(Wired)杂志主编克里斯﹒安德森(Chris Anderson)就曾发出“理论的终结(The End of Theory)”的惊人断言:“海量数据已经让科学方法成为过去时(The Data Deluge Makes the Scientific Method Obsolete)”。
但地平线机器人创始人(前百度深度学习研究院副院长)余凯先生认为,深度学习的惊人进展,是时候促使我们要重新思考这个观点了。也就是说,他认为“大数据+复杂模型”或许能更好地提升学习系统的性能。

“恋爱”中的深度学习
法国科技哲学家伯纳德﹒斯蒂格勒(Bernard Stiegler)认为,人们以自己的技术和各种物化的工具,作为自己“额外”的器官,不断的成就自己。按照这个观点,其实,在很多场景下,计算机都是人类思维的一种物化形式。换句话说,计算机的思维(比如说各种电子算法),都能找到人类生活实践的影子。
比如说,现在火热的深度学习,与人们的恋爱过程也有相通之处。在知乎上,就有人(jacky yang)以恋爱为例来说明深度学习的思想,倒也非常传神。我们知道,男女恋爱大致可分为三个阶段:

第一阶段初恋期,相当于深度学习的输入层。妹子吸引你,肯定是有很多因素,比如说脸蛋、身高、身材、性格、学历等等,这些都是输入层的参数。对不同喜好的人,他们对输出结果的期望是不同的,自然他们对这些参数设置的权重也是不一样的。比如,有些人是奔着结婚去的,那么他们对妹子的性格可能给予更高的权重。否则,脸蛋的权重可能会更高。
第二阶段热恋期,对应于深度学习的隐藏层。在这个期间,恋爱双方都要经历各种历练和磨合。清朝湖南湘潭人张灿写了一首七绝:
书画琴棋诗酒花,当年件件不离他。
而今七事都更变,柴米油盐酱醋茶。
这首诗说的就是,在过日子的洗礼中,各种生活琐事的变迁。恋爱是过日子的一部分,其实也是如此,也需要双方不断磨合。这种磨合中的权重取舍平衡,就相等于深度学习中隐藏层的参数调整,它们需要不断地训练和修正!恋爱双方相处,磨合是非常重要的。要怎么磨合呢?光说“520(我爱你)”,是廉价的。这就给我们程序猿(媛)提个醒,爱她(他),就要多陪陪她(他)。陪陪她(他),就增加了参数调整的机会。参数调整得好,输出的结果才能是你想要的。
第三阶段稳定期,自然相当于深度学习的输出层。输出结果是否合适,是否达到预期,高度取决于“隐藏层”的参数 “磨合”得怎么样。

291 thoughts on “到底什么是深度学习?”

  1. Pingback: Reba Fleurantin
  2. Pingback: Beverly Bultron
  3. Pingback: Cory Chase
  4. Pingback: Lila Lovely
  5. Pingback: Madelyn Monroe MILF
  6. Pingback: domain-broker
  7. Pingback: Assignment Provider
  8. Pingback: organic scar
  9. Pingback: organic foot lotion
  10. Pingback: Click Here
  11. Pingback: Click Here
  12. Pingback: Click Here
  13. Pingback: Click Here
  14. Pingback: Click Here
  15. Pingback: Click Here
  16. Pingback: Click Here
  17. Pingback: Click Here
  18. Pingback: Click Here
  19. Pingback: Click Here
  20. Pingback: Click Here
  21. Pingback: Click Here
  22. Pingback: Click Here
  23. Pingback: Click Here
  24. Pingback: Click Here
  25. Pingback: Click Here
  26. Pingback: Click Here
  27. Pingback: Click Here
  28. Pingback: Click Here
  29. Pingback: Click Here
  30. Pingback: Click Here
  31. Pingback: Click Here
  32. Pingback: Click Here
  33. Pingback: no code robotics
  34. Pingback: Click Here
  35. Pingback: no code robotics
  36. Pingback: Click Here
  37. Pingback: Reputation Defenders
  38. Pingback: Reputation Defenders
  39. Pingback: Reputation Defenders
  40. Pingback: Reputation Defenders
  41. Pingback: Click Here
  42. Pingback: Click Here
  43. Pingback: Click Here
  44. Pingback: Click Here
  45. Pingback: Click Here
  46. Pingback: Click Here
  47. Pingback: Click Here
  48. Pingback: Click Here
  49. Pingback: Click Here
  50. Pingback: Click Here
  51. Pingback: Click Here
  52. Pingback: Click Here
  53. Pingback: Click Here
  54. Pingback: Click Here
  55. Pingback: Click Here
  56. Pingback: Click Here
  57. Pingback: Click Here
  58. Pingback: Click Here
  59. Pingback: Click Here
  60. Pingback: grand rapids dentist
  61. Pingback: Click Here
  62. Pingback: Click Here
  63. Pingback: Click Here
  64. Pingback: Click Here
  65. Pingback: Click Here
  66. Pingback: Click Here
  67. Pingback: Click Here
  68. Pingback: Click Here
  69. Pingback: Click Here
  70. Pingback: Click Here
  71. Pingback: Click Here
  72. Pingback: Click Here
  73. Pingback: Click Here
  74. Pingback: Click Here
  75. Pingback: Click Here
  76. Pingback: online earning site
  77. Pingback: Click Here
  78. Pingback: Click Here
  79. Pingback: Click Here
  80. Pingback: Click Here
  81. Pingback: Click Here
  82. Pingback: Click Here
  83. Pingback: Click Here
  84. Pingback: best-domains
  85. Pingback: domains
  86. Pingback: Google reviews
  87. Pingback: reputation defenders
  88. Pingback: 2023 Books
  89. Pingback: dying
  90. Pingback: find a grave
  91. Pingback: obituary
  92. Pingback: Chirurgie Tunisie
  93. Pingback: Private university
  94. Pingback: Economics
  95. Pingback: Internationalization
  96. Pingback: Pharmacy's PHD
  97. Pingback: Dental Implants
  98. Pingback: education system
  99. Pingback: fue contact
  100. Pingback: Software Engineer
  101. Pingback: Prof. Ebada Sarhan
  102. Pingback: excellence
  103. Pingback: Faculty expertise
  104. Pingback: MBA in FUE
  105. Pingback: System Analysts
  106. Pingback: MBA tuition fees
  107. Pingback: MBA
  108. Pingback: Social Activities
  109. Pingback: Bachelor's Degree
  110. Pingback: Restorative dentistry
  111. Pingback: best university egypt
  112. Pingback: Maillot de football
  113. Pingback: Maillot de football
  114. Pingback: Maillot de football
  115. Pingback: Maillot de football
  116. Pingback: Maillot de football
  117. Pingback: Maillot de football
  118. Pingback: Maillot de football
  119. Pingback: SEOSolutionVIP Fiverr
  120. Pingback: SEOSolutionVIP Fiverr
  121. Pingback: SEOSolutionVIP Fiverr
  122. Pingback: lampada lineare LED
  123. Pingback: pull-ups
  124. Pingback: ikaria juice
  125. Pingback: Fiverr Earn
  126. Pingback: Fiverr Earn
  127. Pingback: Fiverr Earn
  128. Pingback: Fiverr Earn
  129. Pingback: Fiverr Earn
  130. Pingback: fiverrearn.com
  131. Pingback: fiverrearn.com
  132. Pingback: shipping broker
  133. Pingback: livpure mediprime
  134. Pingback: prodentim mediprime
  135. Pingback: weather today
  136. Pingback: fiverrearn.com
  137. Pingback: fiverrearn.com
  138. Pingback: fiverrearn.com
  139. Pingback: fiverrearn.com
  140. Pingback: frenchtons
  141. Pingback: aussie doodle
  142. Pingback: bernedoodle
  143. Pingback: rescue french bulldog
  144. Pingback: crypto news
  145. Pingback: zodiac jewelry
  146. Pingback: bewerto
  147. Pingback: blue french bulldog
  148. Pingback: future university
  149. Pingback: agen multisbo
  150. Pingback: french bulldogs
  151. Pingback: FiverrEarn
  152. Pingback: future university
  153. Pingback: french bulldog
  154. Pingback: six sigma
  155. Pingback: Piano tuning
  156. Pingback: FUE
  157. Pingback: FUE
  158. Pingback: FUE
  159. Pingback: FUE
  160. Pingback: Moving assistance
  161. Pingback: FiverrEarn
  162. Pingback: FiverrEarn
  163. Pingback: FiverrEarn
  164. Pingback: FiverrEarn
  165. Pingback: Media
  166. Pingback: FiverrEarn
  167. Pingback: pupuk organik cair
  168. Pingback: partners
  169. Pingback: joint genesis reviews
  170. Pingback: ikaria juice
  171. Pingback: bulldog frances
  172. Pingback: FiverrEarn
  173. Pingback: FiverrEarn
  174. Pingback: FiverrEarn
  175. Pingback: FiverrEarn
  176. Pingback: FiverrEarn
  177. Pingback: FiverrEarn
  178. Pingback: FiverrEarn
  179. Pingback: FiverrEarn
  180. Pingback: FiverrEarn
  181. Pingback: FiverrEarn
  182. Pingback: FiverrEarn
  183. Pingback: FiverrEarn
  184. Pingback: FiverrEarn
  185. Pingback: FiverrEarn
  186. Pingback: FiverrEarn
  187. Pingback: FiverrEarn
  188. Pingback: FiverrEarn
  189. Pingback: filmebi qartulad
  190. Pingback: serialebi qaerulad
  191. Pingback: Paneer
  192. Pingback: shopping cart
  193. Pingback: agriculture
  194. Pingback: Situs Slot Online
  195. Pingback: Scientific Research
  196. Pingback: Kuliah Termurah
  197. Pingback: FiverrEarn
  198. Pingback: FiverrEarn
  199. Pingback: FiverrEarn
  200. Pingback: FiverrEarn
  201. Pingback: cheap sex cams
  202. Pingback: fullersears.com
  203. Pingback: fullersears.com
  204. Pingback: french bulldog buy
  205. Pingback: live sex cams

发表评论