非線性回歸與非線性回歸

時(shí)間：2019-07-30作者：上海泰珂瑪信息技術(shù)有限公司瀏覽：304

非線性回歸是指使用方程來(lái)描述連續(xù)型響應(yīng)變量之間的非線性關(guān)系以及使用一個(gè)或多個(gè)預(yù)測(cè)變量來(lái)預(yù)測(cè)新觀測(cè)值的
方法。 當(dāng)你不能用線性參數(shù)模型充分反映二者的關(guān)系時(shí)，你可以使用非線性回歸來(lái)取代偏較小二乘法。當(dāng)模型中的
每個(gè)因變量都是可變的而且有且只有一個(gè)變量會(huì)影響因變量取值時(shí), 參數(shù)關(guān)系才是線性關(guān)系。
關(guān)于您*的希望使用的函數(shù)

使用Minitab進(jìn)行非線性回歸時(shí)，您必須*希望使用的函數(shù)。您對(duì)函數(shù)的選擇往往取決于關(guān)于響應(yīng)曲線形狀的經(jīng)驗(yàn)或者過(guò)程體系中物理和化學(xué)的反應(yīng)變化。 可能的非線性形狀包括凹形、凸形、指數(shù)遞增或遞減,正態(tài)變化圖形(S)和漸近曲線。 您必須*一個(gè)函數(shù)，既滿(mǎn)足先前的經(jīng)驗(yàn)要求，又滿(mǎn)足非線性回歸的假設(shè)條件。如果你*一個(gè)新的函數(shù),它必須至少包含以下三個(gè)基本組成中的一個(gè):

參數(shù)
Minitab通過(guò)使用遞歸算法計(jì)算殘差平方和的較小值(SSE)來(lái)擬合樣本數(shù)據(jù)的期望函數(shù)以預(yù)測(cè)參數(shù)。 在函數(shù)中,輸入不與列名或數(shù)學(xué)運(yùn)算重名的文本來(lái)確定參數(shù)。 例如,您可以輸入b1、b2、Theta1 Theta2等等。

預(yù)測(cè)因子
在工作表的列中輸入變量，再輸入函數(shù)的列名。 如果列名包含多個(gè)詞,使用單引號(hào)標(biāo)注(例如,‘密度Ln’)。
 
數(shù)學(xué)運(yùn)算以及函數(shù)


*參數(shù)和預(yù)測(cè)變量之間的邏輯關(guān)系以產(chǎn)生響應(yīng)變量的期望值， 您可以很*地使用非線性回歸的計(jì)算器進(jìn)行操作和使用函數(shù)(例如,*,+,COS,EXP,等等)。 或者,你也可以直接在編輯字段進(jìn)行輸入。




算法和初始值

無(wú)論線性還是非線性回歸都是通過(guò)計(jì)算殘差平方和較小值(SSE)來(lái)進(jìn)行參數(shù)估計(jì)的。 然而,它們使用的方法卻完全不同。 對(duì)于線性回歸,Minitab通過(guò)求解方程來(lái)獲得殘差平方和的較小值。在你選擇模型后,沒(méi)有更多的選擇。如果使用相同的模型來(lái)預(yù)測(cè)相同的數(shù)據(jù)，那么你會(huì)得到相同的結(jié)果。
 
然而,對(duì)于非線性回歸,沒(méi)有直接計(jì)算殘差平方和較小值的方法。 因此,通過(guò)迭代算法自動(dòng)調(diào)整參數(shù)來(lái)減少殘差的平方和以估計(jì)參數(shù)。 在你選擇模型之后,你要選擇算法并提供每個(gè)參數(shù)的初始值，這個(gè)算法使用這些初始值來(lái)計(jì)算初始?xì)埐畹钠椒胶汀?br>
每次迭代過(guò)程，算法會(huì)自動(dòng)調(diào)整參數(shù)使殘差平方和的預(yù)測(cè)值小于先前迭代的結(jié)果。不同的算法在每次迭代中使用不同的方法來(lái)決定如何進(jìn)行調(diào)整。除非有錯(cuò)誤阻止了隨后的迭代過(guò)程或者M(jìn)initabf達(dá)到了較大迭代次數(shù)，要不然迭代算法會(huì)不斷執(zhí)行，直到殘差平方和較小為止,。 如果該算法的不殘差平方和不減小,你可以嘗試不同的起始值以及其他算法。

對(duì)于一些期望函數(shù)和數(shù)據(jù)集,初始值會(huì)顯著影響結(jié)果。某些初始值會(huì)在計(jì)算到特定階段時(shí)會(huì)停止計(jì)算殘差平方和中的較小值。有時(shí),可能需要較努力尋找一些較佳的初始值。


比較非線性和線性回歸

了解非線性回歸的基本知識(shí),對(duì)于理解它和線性回歸之間的異同之處很重要。
相似之處

二者均為數(shù)據(jù)分析:

使用數(shù)學(xué)方法來(lái)描述響應(yīng)變量和一個(gè)或多個(gè)預(yù)測(cè)變量之間的關(guān)系。

可以改變的關(guān)系模型。

計(jì)算殘差平方和的較小值(SSE)。

有參數(shù)估計(jì)的相同假設(shè)。

 
不同之處

線性和非線性回歸的本質(zhì)區(qū)別,不在于回歸分析名字的不同,而在于模型可接受函數(shù)形式的不同。 具體來(lái)說(shuō),線性回歸需要線性模型參數(shù)而非線性模型不需要。當(dāng)你使用線性模型不能充分表明參數(shù)關(guān)系時(shí)，使用非線性回歸而不是線性回歸。

線性回歸函數(shù)用以約束方程的基本形式的參數(shù)必須是線性的。當(dāng)模型的因變量是可變的同時(shí)只有一個(gè)自變量影響因變量時(shí)，參數(shù)模型是線性模型

響應(yīng)變量=常數(shù)+參數(shù)*預(yù)測(cè)+…… * +參數(shù)預(yù)測(cè)
或y =βO+β1x1+β2x2+…… +βKxK

然而,非線性方程可以采取許多不同的形式。 事實(shí)上,由于有很多種可能,您必須*Minitab用以執(zhí)行非線性回歸分析所用的期望函數(shù)。 這些例子表明了變量的關(guān)系(θ代表參數(shù)):

你選擇的期望函數(shù)往往取決于經(jīng)驗(yàn)總結(jié)的響應(yīng)曲線形狀或生產(chǎn)過(guò)程中物理和化學(xué)反映性質(zhì)。非線性回歸的可能形狀包括凹形、凸形、指數(shù)遞增或遞減,正態(tài)分布形狀(S)以及漸近曲線。 您必須*滿(mǎn)足經(jīng)驗(yàn)要求和非線性回歸假設(shè)的函數(shù)。

雖然靈活地*許多不同預(yù)期的函數(shù)非常重要,但也需要努力尋找匹配數(shù)據(jù)較佳的期望函數(shù)。這通常需要附加的探索研究,主題所在領(lǐng)域的專(zhuān)業(yè)知識(shí),嘗試以及錯(cuò)誤分析。 此外,對(duì)于非線性方程,確定每個(gè)指標(biāo)對(duì)響應(yīng)變量的影響比使用線性方程組較加直觀。

     與線性回歸相比，非線性回歸使用不同的方法來(lái)計(jì)算殘差平方和的較小值(SSE)。
 





上海泰珂瑪信息技術(shù)有限公司專(zhuān)注于Minitab,Minitab正版軟件,Minitab培訓(xùn)等

• 詞條

  詞條說(shuō)明

• Minitab統(tǒng)計(jì)軟件增了加條件選擇功能

  Minitab統(tǒng)計(jì)軟件增了加條件選擇功能,新的子集化和排序功能以及數(shù)據(jù)自定義功能?較新較新的**統(tǒng)計(jì)軟件引入了探索、可視化和操縱數(shù)據(jù)的新功能,。2015年3月4日??在賓夕法尼亞州州立大學(xué)——Minitab升級(jí)到較新版本Minitab 17.2,作為主要用于質(zhì)量改進(jìn)和統(tǒng)計(jì)教育的統(tǒng)計(jì)軟件，新增了數(shù)據(jù)操作和探索工具,使你能較深入的洞察你的數(shù)據(jù)。?在軟件升級(jí)一年之

• 回歸與方差分析: 使用時(shí)選擇什么工具

  假設(shè)您以周期時(shí)間收集數(shù)據(jù)，收益、制造零件的尺寸或者其他一些指標(biāo)對(duì)你來(lái)說(shuō)很重要，你想看看其他哪些變量可能與它相關(guān)?，F(xiàn)在你怎么辦呢?當(dāng)我大學(xué)畢業(yè)時(shí)我的**個(gè)統(tǒng)計(jì)學(xué)位，我的文憑是真正的證明，我忍受幾個(gè)小時(shí)各種統(tǒng)計(jì)課題的課堂講座，包括線性回歸，方差分析和邏輯回歸分析。然而，沒(méi)有一個(gè)單獨(dú)的歸類(lèi)將數(shù)據(jù)放在一起并解釋使用時(shí)選擇什么工具。我有所有這些數(shù)據(jù)為我的X和Y，我想描述它們之間的關(guān)系，但是我現(xiàn)在做什么?那時(shí)

• 上海泰珂瑪信息技術(shù)有限公司

  上海泰珂瑪信息技術(shù)有限公司是Minitab在中國(guó)的獨(dú)立代表，向中國(guó)大陸地區(qū)的Minitab用戶(hù)和質(zhì)量/精益六西格瑪咨詢(xún)伙伴銷(xiāo)售軟件、提供技術(shù)支持和培訓(xùn)服務(wù)。公司提供在線培訓(xùn)課程、公開(kāi)課培訓(xùn)、企業(yè)內(nèi)訓(xùn)以及項(xiàng)目指導(dǎo)服務(wù)，幫助客戶(hù)較有效的掌握Minitab軟件。????**良好的質(zhì)量改善和精益六西格瑪咨詢(xún)公司都使用Minitab軟件作為質(zhì)量和流程改善項(xiàng)目的統(tǒng)計(jì)工具

• 為何需要正態(tài)分布和方差齊性的檢驗(yàn)？

  很多時(shí)候，我們都需要使用從單一樣本中獲取的樣本信息利用統(tǒng)計(jì)推斷的方法來(lái)估計(jì)總體的參數(shù)信息，這是一種非常有用的統(tǒng)計(jì)方法，但在執(zhí)行相關(guān)推斷之前，我們需要驗(yàn)證一些假定，任何一條假定若是不能滿(mǎn)足，則得到的統(tǒng)計(jì)結(jié)論就是無(wú)效的。通常數(shù)據(jù)的分析假設(shè)為：隨機(jī)數(shù)據(jù)，獨(dú)立的，正態(tài)分布，等方差，穩(wěn)定，當(dāng)然，測(cè)量系統(tǒng)的精確性和準(zhǔn)確性也是要滿(mǎn)足測(cè)量要求的。?什么是正態(tài)分布假定？在再進(jìn)行統(tǒng)計(jì)分析之前，需要識(shí)別出數(shù)據(jù)