發布: Java培訓 發布時間:2021-08-30 20:05:20
正則化(regularization),是指在線性代數理論中,不適定問題通常是由一組線性代數方程定義的,而且這組方程組通常來源于有著很大的條件數的不適定反問題。大條件數意味著舍入誤差或其它誤差會嚴重地影響問題的結果。
正則化主要用于解決以下兩種問題:
1、正則化就是對最小化經驗誤差函數上加約束,這樣的約束可以解釋為先驗知識(正則化參數等價于對參數引入先驗分布)。約束有引導作用,在優化誤差函數的時候傾向于選擇滿足約束的梯度減少的方向,使最終的解傾向于符合先驗知識(如一般的l-norm先驗,表示原問題更可能是比較簡單的,這樣的優化傾向于產生參數值量級小的解,一般對應于稀疏參數的平滑解)。
2、同時,正則化解決了逆問題的不適定性,產生的解是存在,唯一同時也依賴于數據的,噪聲對不適定的影響就弱,解就不會過擬合,而且如果先驗(正則化)合適,則解就傾向于是符合真解(更不會過擬合了),即使訓練集中彼此間不相關的樣本數很少。
正則化是一種為了減小測試誤差的行為(有時候會增加訓練誤差)。當你用比較復雜的模型比如神經網絡,去擬合數據時,很容易出現過擬合現象,這會導致模型的泛化能力下降,這時候,我們就需要使用正則化,降低模型的復雜度。
上一篇:抖音血條是啥意思是什么
下一篇:Java算法冒泡排序
中公教育是一家中國領先的全品類職業教育機構,提供超過100個品類的綜合職業就業培訓服務。公司在全國超過1000個直營網點展開經營,深度覆蓋300多個地級市,并正在快速向數千個縣城和高校擴張。
通過階段性授課機制,和每階段的定期考核,先讓學員能夠學會所學內容,才能找打合適工作。最后一個階段為就業課程,從技術和面試兩個方面加深就業能力,并且還有不定期的雙選會供大家選擇。
線下課程全程是師資面對面教學,不會存在上課只對著大屏幕上課的情況,有問題都可以在課上得到解答。并且優就業通過自主研發大綱和學習路線,并且定期更新課程所學技術,讓大家所學技術不落伍。
為您詳細答疑解惑,更能領取免費課程