這篇文章給大家分享的是有關(guān)線性回歸中的L1與L2正則化的內(nèi)容。小編覺得挺實(shí)用的，因此分享給大家做個(gè)參考，一起跟隨小編過來看看吧。

成都創(chuàng)新互聯(lián)專注于企業(yè)全網(wǎng)營銷推廣、網(wǎng)站重做改版、五華網(wǎng)站定制設(shè)計(jì)、自適應(yīng)品牌網(wǎng)站建設(shè)、H5場景定制、電子商務(wù)商城網(wǎng)站建設(shè)、集團(tuán)公司官網(wǎng)建設(shè)、成都外貿(mào)網(wǎng)站建設(shè)、高端網(wǎng)站制作、響應(yīng)式網(wǎng)頁設(shè)計(jì)等建站業(yè)務(wù)，價(jià)格優(yōu)惠性價(jià)比高，為五華等各大城市提供網(wǎng)站開發(fā)制作服務(wù)。

為新昌等地區(qū)用戶提供了全套網(wǎng)頁設(shè)計(jì)制作服務(wù)，及新昌網(wǎng)站建設(shè)行業(yè)解決方案。主營業(yè)務(wù)為做網(wǎng)站、成都做網(wǎng)站、新昌網(wǎng)站設(shè)計(jì)，以傳統(tǒng)方式定制建設(shè)網(wǎng)站，并提供域名空間備案等一條龍服務(wù)，秉承以專業(yè)、用心的態(tài)度為用戶提供真誠的服務(wù)。我們深信只要達(dá)到每一位用戶的要求，就會得到認(rèn)可，從而選擇與我們長期合作。這樣，我們也可以走得更遠(yuǎn)！

描述回歸建模中的L1和L2正則化方法。

在處理復(fù)雜數(shù)據(jù)時(shí)，我們往往會創(chuàng)建復(fù)雜的模型。太復(fù)雜并不總是好的。過于復(fù)雜的模型就是我們所說的“過擬合”，它們在訓(xùn)練數(shù)據(jù)上表現(xiàn)很好，但在看不見的測試數(shù)據(jù)上卻表現(xiàn)不佳。

有一種方法可以對損失函數(shù)的過擬合進(jìn)行調(diào)整，那就是懲罰。通過懲罰或“正則化”損失函數(shù)中的大系數(shù)，我們使一些(或所有)系數(shù)變小，從而使模型對數(shù)據(jù)中的噪聲不敏感。

在回歸中使用的兩種流行的正則化形式是L1又名Lasso回歸，和L2又名Ridge回歸。在線性回歸中我們使用普通最小二乘(OLS)是用于擬合數(shù)據(jù)的:我們對殘差(實(shí)際值與預(yù)測值之間的差異)進(jìn)行平方，以得到均方誤差(MSE)。最小的平方誤差，或最小的平方，是最適合的模型。

讓我們來看看簡單線性回歸的成本函數(shù):

對于多元線性回歸，成本函數(shù)應(yīng)該是這樣的，其中????是預(yù)測因子或變量的數(shù)量。

因此，隨著預(yù)測器(????)數(shù)量的增加，模型的復(fù)雜性也會增加。為了緩解這種情況，我們在這個(gè)成本函數(shù)中添加了一些懲罰形式。這將降低模型的復(fù)雜性，有助于防止過擬合，可能消除變量，甚至減少數(shù)據(jù)中的多重共線性。

L2 -嶺回歸

L2或嶺回歸，將????懲罰項(xiàng)添加到系數(shù)大小的平方????。????是一個(gè)超參數(shù)，這意味著它的值是自由定義的。你可以在成本函數(shù)的末端看到它。

加上????懲罰，????系數(shù)受到約束，懲罰系數(shù)大的代價(jià)函數(shù)。

L1 -Lasso回歸

L1或Lasso回歸，幾乎是一樣的東西，除了一個(gè)重要的細(xì)節(jié)-系數(shù)的大小不是平方，它只是絕對值。

在這里，成本函數(shù)的最后是????的絕對值，一些系數(shù)可以被精確地設(shè)置為零，而其他的系數(shù)則直接降低到零。當(dāng)一些系數(shù)變?yōu)榱銜r(shí)，Lasso回歸的效果是特別有用的，因?yàn)樗梢怨浪愠杀静⑼瑫r(shí)選擇系數(shù)。。

還有最重要的一點(diǎn)，在進(jìn)行任何一種類型的正則化之前，都應(yīng)該將數(shù)據(jù)標(biāo)準(zhǔn)化到相同的規(guī)模，否則罰款將不公平地對待某些系數(shù)。

感謝各位的閱讀！關(guān)于“線性回歸中的L1與L2正則化”這篇文章就分享到這里了，希望以上內(nèi)容可以對大家有一定的幫助，讓大家可以學(xué)到更多知識，如果覺得文章不錯，可以把它分享出去讓更多的人看到吧！

新聞標(biāo)題：線性回歸中的L1與L2正則化
網(wǎng)站網(wǎng)址：http://aaarwkj.com/article38/iijpsp.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供網(wǎng)站導(dǎo)航、建站公司、搜索引擎優(yōu)化、云服務(wù)器、App開發(fā)、企業(yè)建站

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)