日本精品一区二区三区四区,福利一区二区在线观看,97精品人妻一区二区三区香蕉

產(chǎn)品簡介

美林新聞/NEWS

首頁美林?jǐn)?shù)據(jù) 行業(yè)資訊

【數(shù)據(jù)挖掘算法分享】機(jī)器學(xué)習(xí)平臺——回歸算法之線性回歸

2022-07-28 17:45:26 次

線性回歸是應(yīng)對回歸問題最常用的方法，其是一種線性的數(shù)據(jù)建模方法，可以通過凸優(yōu)化的方法進(jìn)行求解，具體通過最小化下面的目標(biāo)函數(shù)進(jìn)行求解：

其中J（θ），為W^T*X和Y的函數(shù)。目標(biāo)函數(shù)包含兩部分內(nèi)容，正則項(xiàng)用于控制模型的復(fù)雜度（最小化結(jié)構(gòu)風(fēng)險函數(shù)），損失用于度量擬合誤差（通常使用均方誤差），目標(biāo)函數(shù)通常為w的凸函數(shù)。正則項(xiàng)參數(shù) λ>0（regParam）為最小化誤差和模型復(fù)雜度之間提供了一種折中（如，用來避免過擬合）。
線性回歸算法的整個步驟如下：

（1）給定訓(xùn)練數(shù)據(jù)樣本集

選取初值θ0，給定收斂容差 ε，最大迭代次數(shù)K，然后解下面優(yōu)化問題：

（2）采取下面公式更新θ

（3）當(dāng) 線性回歸

或者k<K ,輸出θ，否則轉(zhuǎn)步驟2.
（4）構(gòu)造回歸決策函數(shù)

線性回歸適合分布式實(shí)現(xiàn)，能支持大數(shù)據(jù)量建模。

線性回歸算法假設(shè)每個影響因素與目標(biāo)之間是線性關(guān)系，并通過特征選擇，得到關(guān)鍵影響因素的線性回歸系統(tǒng)。該算法是利用數(shù)理統(tǒng)計(jì)中回歸分析，來確定兩種或兩種以上變量間相互依賴的定量關(guān)系的一種統(tǒng)計(jì)方法，通過凸優(yōu)化的方法進(jìn)行求解。在實(shí)際業(yè)務(wù)中應(yīng)用十分廣泛。下面演示下Tempo機(jī)器學(xué)習(xí)平臺中線性回歸算法的使用方法。

數(shù)據(jù)格式
必須設(shè)置類屬性（輸出），且類屬性（輸出）必須是連續(xù)型（數(shù)值）；
非類屬性（輸入）可以是連續(xù)型（數(shù)值）也可以是離散型（名詞）；

參數(shù)說明

參數(shù)	類型	描述
數(shù)據(jù)標(biāo)準(zhǔn)化	下拉框	設(shè)置數(shù)據(jù)標(biāo)準(zhǔn)化的方法，字符型，取值范圍：無處理，歸一化，標(biāo)準(zhǔn)化，默認(rèn)值為無處理
取值區(qū)間下限	文本框	設(shè)置歸一化取值區(qū)間下限，浮點(diǎn)型，取值范圍：[0,∞)，默認(rèn)值為0
取值區(qū)間上限	文本框	設(shè)置歸一化取值區(qū)間上限，浮點(diǎn)型，取值范圍：[0,∞)，默認(rèn)值為1
正則化參數(shù)	文本框	正則化參數(shù)控制機(jī)器的復(fù)雜度，浮點(diǎn)型，取值范圍：[0,∞)，默認(rèn)值為0.01
收斂容差	文本框	設(shè)置終止迭代的誤差界，浮點(diǎn)型，取值范圍：[0,∞)，默認(rèn)值為0.000001
最大迭代次數(shù)	文本框	設(shè)置最大迭代次數(shù)，整型，取值范圍：[1,∞)，默認(rèn)值為100
罰函數(shù)類型	下拉框	設(shè)置懲罰函數(shù)類型，0對應(yīng)L2罰函數(shù)，1對應(yīng)L1罰函數(shù)，(0,1)之間對應(yīng)L1和L2的組合罰函數(shù)。浮點(diǎn)型，取值范圍：[0,1]，默認(rèn)值為0
求解方法	下拉框	選擇線性回歸的求解方法，文本型，取值范圍：Auto，L-BFGS,Normal （Normal->加權(quán)最小二乘法，L-BFGS->牛頓法，Auto->算法自動選取（L-BFGS,Normal）中的一種）。默認(rèn)值為Auto
是否顯示變量重要性	復(fù)選框	用戶選擇是否分析每個變量對于回歸結(jié)果的影響程度，如果選擇是，則在洞察中顯示參與建模的每個變量對于模型的貢獻(xiàn)程度情況