深度學習的訓練過程：

1）自下上升非監(jiān)督學習，從底層開始，一層一層的往頂層訓練。采用無標定數據（有標定數據也可）分層訓練各層參數，這是一個無監(jiān)督訓練過程，是和傳統(tǒng)神經網絡區(qū)別最大的部分，這個過程可以看作是feature learning過程。

2）自頂向下的監(jiān)督學習，通過帶標簽的數據去訓練，誤差自頂向下傳輸，對網絡進行微調。基于第一步得到的各層參數進一步fine－tune整個多層模型的參數，這一個有監(jiān)督訓練過程。

深度學習的第一步不是隨機初始化，而是通過學習輸入數據的結構得到的，因而這個初值更接近全局最優(yōu)，從而能夠取得更好的效果。所以深度學習效果好很大程度上歸功于第一步的feature learning過程。

對深度學習而言，訓練集就是用來求解神經網絡的權重的，最后形成模型；而測試集，就是用來驗證模型的準確度的。

深度學習領域研究包含：優(yōu)化（Optimization），泛化（Generalization），表達（Representation）以及應用（Applications）。除了應用（Applications）之外每個部分又可以分成實踐和理論兩個方面。

根據解決問題、應用領域等不同，深度學習有許多不同實現(xiàn)形式：卷積神經網絡（ConvolutionalNeural Networks）、深度置信網絡（DeepBelief Networks）、受限玻爾茲曼機（RestrictedBoltzmann Machines）、深度玻爾茲曼機（Deep BoltzmannMachines）、遞歸自動編碼器（RecursiveAutoencoders）、深度表達（DeepRepresentation）等。

深度學習的優(yōu)點：深度學習提出了一種讓計算機自動學習出模式特征的方法，并將特征學習融入到了建立模型的過程中，從而減少了人為設計特征造成的不完備性。而目前以深度學習為核心的某些機器學習應用，在滿足特定條件的應用場景下，已經達到了超越現(xiàn)有算法的識別或分類性能。

深度學習的缺點：只能提供有限數據量的應用場景下，深度學習算法不能夠對數據的規(guī)律進行無偏差的估計。為了達到很好的精度，需要大數據支撐。由于深度學習中圖模型的復雜化導致算法的時間復雜度急劇提升，為了保證算法的實時性，需要更高的并行編程技巧和更多更好的硬件支持。因此，只有一些經濟實力比較強大的科研機構或企業(yè)，才能夠用深度學習來做一些前沿而實用的應用。

深度學習成功應用于計算機視覺、語音識別、記憶網絡、自然語言處理等其他領域。

深度學習是關于自動學習需要建模的數據潛在分布的多層表達的復雜算法。深度學習算法自動的提取分類需要的低層次或者高層次特征�？傊�，深度學習是用多層次的分析和計算手段，得到結果的一種方法。

結語

目前深度學習的發(fā)展引起其他它領域的革命。深度學習的火熱得益于各行各業(yè)豐富的大數據發(fā)展和計算機計算能力的提升，同時也要歸功于過去經驗。今后深度學習將繼續(xù)解決各種識別（Recognition）和演繹（Ability to Act）方面的相關問題。當然，機器學習本身也不是完美的，也不是解決世間任何機器學習問題的利器，深度學習目前仍有大量工作需要研究，不應該被放大到一個無所不能的程度。