通過將一系列受限玻耳茲曼機(jī)（由二值隨機(jī)神經(jīng)元構(gòu)成的兩層對稱連接神經(jīng)網(wǎng)絡(luò)）單元堆疊進(jìn)行訓(xùn)練的深度生成式模型。

深度置信網(wǎng)是概率統(tǒng)計學(xué)與機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的融合。深度置信網(wǎng)由多個帶有數(shù)值的層組成，其中層與層之間存在關(guān)系，而數(shù)值之間沒有。深度置信網(wǎng)的主要目標(biāo)是幫助系統(tǒng)將數(shù)據(jù)分類到不同的類別。

深度置信網(wǎng)的演進(jìn)經(jīng)歷了幾個階段：①第一代神經(jīng)網(wǎng)絡(luò)使用感知器，通過考慮權(quán)重或預(yù)先饋送的目標(biāo)屬性來識別特定的物體或其他物體。然而，感知器只能在更基本的層面上有效，并不能提高識別的技術(shù)。②第二代神經(jīng)網(wǎng)絡(luò)引入了反向傳播的概念，將得到的輸出與期望的輸出進(jìn)行比較，最終目標(biāo)是使誤差值減小到零。支持向量機(jī)通過引用先前測試用例的輸入來創(chuàng)建和理解更多的測試用例。③針對信念網(wǎng)絡(luò)的非循環(huán)圖。這種圖能夠幫助解決與推理那些和學(xué)習(xí)問題有關(guān)的問題。④深度置信網(wǎng)。它幫助創(chuàng)建存儲在葉節(jié)點(diǎn)中的無偏值。深度置信網(wǎng)由諸如玻耳茲曼機(jī)無監(jiān)督網(wǎng)絡(luò)組成。每個子網(wǎng)絡(luò)的不可見層是下一層的可見層。隱藏層或不可見層并不是相互連接的，而是有條件互相獨(dú)立的。

深度置信網(wǎng)在修改后的國家標(biāo)準(zhǔn)技術(shù)研究所數(shù)據(jù)庫（modified national institute of standards and technology database，MNIST）上的表現(xiàn)超越了支持向量機(jī)，從而開啟了深度學(xué)習(xí)在學(xué)術(shù)界和工業(yè)界的浪潮，在深度學(xué)習(xí)的發(fā)展歷史中具有重要意義。