自動編碼器有多種型別,並分析與不同變化相關的優缺點:
1. 去噪自動編碼器
去噪自動編碼器處理部分損壞的輸入並訓練以恢復原始的、未失真的影象。 如上所述,這種方法是一種有效的方法,可以限制網路簡單地複製輸入,從而學習資料的底層結構和重要特徵。
非常好點
這種型別的自動編碼器可以提取重要特徵並減少雜訊或不需要的特徵。
去噪自動編碼器可以用作資料增強的一種形式,恢復的影象可以用作增強資料以生成額外的訓練樣本。
缺點:
選擇正確的雜訊型別和水平來引入可能具有挑戰性,並且可能需要領域知識。
去噪過程可能會導致原始輸入所需的一些資訊丟失。 這種損耗會影響輸出的精度。
2.稀疏自動編碼器
這種型別的自動編碼器通常包含比輸入更多的隱藏單元格,但一次只允許幾個單元處於活動狀態。 此屬性稱為網路稀疏性。 可以通過手動清零所需的隱藏單元、調整啟用函式或在成本函式中新增損失項來控制網路的稀疏性。
非常好點
稀疏自編碼器中的稀疏性約束有助於在編碼過程中濾除雜訊和不相關的特徵。
這些自動編碼器通常學習重要且有意義的特徵,因為它們強調稀疏啟用。
缺點:
超引數的選擇對該自動編碼器的效能起著重要作用。 不同的輸入應該導致網路不同節點的啟用。
稀疏性約束的應用增加了計算的複雜性。
3.可變自動編碼器
變分自動編碼器對潛在變數的分布做出強有力的假設,並在訓練期間使用隨機梯度變分貝葉斯估計器。 它假設資料是由有向圖模型生成的,並嘗試學習 q { phi}(z|x) 到條件屬性 q {{theta} (z |.)x),其中 phi 和 theta 分別是編碼器和解碼器的引數。
優勢:
變分自動編碼器用於生成與原始訓練資料相似的新資料點。 這些樣本是從潛在空間中學習的。
變分自動編碼器是一種概率框架,用於學習資料的壓縮表示以捕獲其基本結構和變化,因此它對於檢測異常和探索資料非常有用。
缺點:
變分自動編碼器使用近似來估計潛在變數的真實分布。 這種近似會引入一定程度的誤差,這可能會影響生成的樣品的質量。
得到的樣本只能覆蓋真實資料分布的有限子集。 這可能導致生成的樣本缺乏多樣性。
4. 卷積自動編碼器
卷積自動編碼器是一種使用卷積神經網路 (CNNS) 作為構建塊的自動編碼器。 編碼器由多個層組成,這些層將影象或網格作為輸入,並將其傳遞到不同的卷積層,形成輸入的壓縮表示。 解碼器是編碼器的映象,用於對壓縮表示進行反卷積並嘗試重建原始影象。
優勢:
卷積自動編碼器可以將高維影象資料壓縮為低維資料。 這提高了影象資料的儲存效率和傳輸效率。
卷積自動編碼器可以重建影象的缺失部分。 它還可以處理物體位置或方向略有變化的影象。
缺點:
這些自動編碼器容易出現過擬合。 應使用適當的正則化技術來解決這個問題。
資料壓縮會導致資料丟失,從而導致低質量影象的重建。
優質作者名單