數(shù)學(xué)之美：牛頓-拉夫遜迭代法原理及其實(shí)現(xiàn)

[導(dǎo)讀] 前面剛轉(zhuǎn)了一篇文章提到了牛頓-拉夫遜（拉弗森）（Newton-Raphson method）方法，感覺(jué)這個(gè)數(shù)學(xué)方法很有必要相對(duì)深入寫(xiě)一篇文章來(lái)總結(jié)分享印證一下自己的理解。這是寫(xiě)本文的由來(lái)，如果發(fā)現(xiàn)文章中有錯(cuò)誤之處，請(qǐng)留言交流討論。

什么是牛頓-拉夫遜方法？

牛頓其人：Isaac Newton（1642年12月25日– 1727年3月20日）是一位英國(guó)數(shù)學(xué)家，物理學(xué)家，天文學(xué)家，神學(xué)家和作家，被公認(rèn)為有史以來(lái)最有影響力的科學(xué)家之一，并且是科學(xué)革命的關(guān)鍵人物。他的書(shū)《自然哲學(xué)的數(shù)學(xué)原理》于1687年首次出版，奠定了古典力學(xué)的基礎(chǔ)。牛頓還為光學(xué)做出了開(kāi)創(chuàng)性的貢獻(xiàn)，并與戈特弗里德·威廉·萊布尼茲（Gottfried Wilhelm Leibniz）發(fā)展了無(wú)窮微積分的學(xué)科。

拉弗森Joseph Raphson 生卒不詳，其最著名的著作是1690年出版的《通用分析方程》。它包含一種方法，現(xiàn)在稱(chēng)其為牛頓-拉夫森方法，用于近似方程式的求根。艾薩克·牛頓（Isaac Newton）在1671年寫(xiě)的《通量法》中開(kāi)發(fā)了一個(gè)非常相似的公式，但是這項(xiàng)工作要到1736年才出版，這是拉夫森分析之后近50年。但是，該方法的Raphson版本比Newton方法更簡(jiǎn)單，因此通常被認(rèn)為是更好的方法。

所以，牛頓迭代法（簡(jiǎn)寫(xiě)）就是一種近似求解實(shí)數(shù)域與復(fù)數(shù)域求解方程的數(shù)學(xué)方法。那么這個(gè)方法是具體是什么原理呢？

牛頓迭代如何迭代？

直接看數(shù)學(xué)公式描述如何迭代不直觀，先來(lái)看動(dòng)圖就很容易理解牛頓迭代法為什么叫迭代法以及怎樣迭代的：

牛頓迭代法是原理是根據(jù)一個(gè)初始點(diǎn) 在該點(diǎn)做切線，切線與X軸相交得出下一個(gè)迭代點(diǎn) 的坐標(biāo)，再在 處做切線，依次類(lèi)推，直到求得滿(mǎn)足精度的近似解為止。

由前面描述知道，牛頓迭代法是用來(lái)近似求解方程的，這里有兩個(gè)點(diǎn)需要說(shuō)明：

• 為啥要近似求解？很多方程可能無(wú)法直接求取其解
• 迭代法非常適合計(jì)算機(jī)編程實(shí)現(xiàn)，實(shí)際上計(jì)算機(jī)編程對(duì)于牛頓迭代法廣為應(yīng)用

來(lái)看看，數(shù)學(xué)上如何描述的？

其中 為函數(shù) 在 處的一階導(dǎo)數(shù)，也就是該點(diǎn)的切線。

來(lái)簡(jiǎn)單推一推上面公式的由來(lái)，直線函數(shù)方程為：

知道一個(gè)直線的一個(gè)坐標(biāo)點(diǎn) 以及斜率 則該直線的方程就很容易可以得知：

那么該直線與 軸的交點(diǎn)，就是 也即等式 的解：

啥時(shí)候停止迭代呢？

1. 計(jì)算出

2. 給出一個(gè)初始假定根值 ,利用上面迭代式子進(jìn)行迭代

3. 計(jì)算絕對(duì)相對(duì)迭代近似誤差

4. 將絕對(duì)相對(duì)近似誤差與預(yù)定的相對(duì)誤差容限 進(jìn)行比較。如果 ，則迭代步驟2，否則停止算法。另外，檢查迭代次數(shù)是否已超過(guò)允許的最大迭代次數(shù)。如果是這樣，則需要終止算法并退出。另一個(gè)終止條件是：

如何編碼呢？

由于牛頓迭代法主要目的是解方程，當(dāng)然也有可能用于某一個(gè)數(shù)學(xué)函數(shù)求極值，所以無(wú)法寫(xiě)出通用的代碼，這里僅僅給出一個(gè)編代碼的思路。相信掌握了思路，對(duì)于各種實(shí)際應(yīng)用應(yīng)該能很快的寫(xiě)出符合實(shí)際應(yīng)用的代碼。

假定一函數(shù)為

其波形圖如下：

其一階導(dǎo)數(shù)為：

那么對(duì)于該函數(shù)的根：

從圖上大致可以知道有兩個(gè)根，如果直接解方程，則很難求出其根，可以編個(gè)代碼試試：

#include?
#include?
#include?

/*假定待求根函數(shù)如下*/
#define????F(x)????(2*(x)*(x)-10*cos(x)+(x)-80)

/*其一階導(dǎo)數(shù)為*/
#define???DF(x)????(4*(x)+10*sin(x)+1)

float?newton_rooting(float?x0,float?precision,float?min_deltax,int?max_iterations)
{
?????float?xn,xn1,fn,fn1,dfn;
?????float?deltax;
?????int?step?=?0;
?????xn??=?x0;
?????xn1?=?x0;
?????do{
???????xn??=?xn1;
???????fn??=?F(xn);
???????dfn?=?DF(xn);
???????/*判0*/
???????if(?fabs(dfn)?<1e-6?)
???????{
????????????if(?fabs(fn)>precision?)
????????????????return?NAN;
????????????else
????????????????return?fn;
???????}

???????xn1?=?xn?-?fn/dfn;
???????fn1?=?F(xn1);
???????deltax?=?fabs(xn1-xn);
???????
???????step++;
???????if(?step>max_iterations?)
???????{
???????????if(?fabs(fn1)???????????????return?xn;
???????????else
???????????????return?NAN;
???????}
?????}
?????while(?fabs(fn1)>precision?||?deltax>min_deltax?);

?????return?xn1;
}

void?main()
{
?????float?root_guess?=?23.0f;
?????float?precision?=?0.00001f;
?????float?min_deltax?=?0.001f;
?????float?root;
?????int?step?=?7;

?????root?=?newton_rooting(?root_guess,precision,min_deltax,step?);
?????printf("根為:?%f,函數(shù)值為：%f\n",?root,F(root));

?????root_guess?=?-23;
?????root?=?newton_rooting(?root_guess,precision,min_deltax,step?);
?????printf("根為:?%f,函數(shù)值為：%f\n",?root,F(root));
}

結(jié)果：

根為:?6.457232, 函數(shù)值為：0.000004
根為:?-6.894969,函數(shù)值為：-0.000008

函數(shù)值已經(jīng)很接近于0了，如果還需要更為精確的值，則可以選擇在此基礎(chǔ)上進(jìn)一步求解，比如利用二分法逼近。

需要注意些啥？

• 求斜率可能為0，如為0時(shí)，則可能找到了函數(shù)的極值，比如：

• 如果選擇的初始猜測(cè)根的接近方程f(x)=0中函數(shù)f(x)的拐點(diǎn) ，Newton-Raphson方法可能開(kāi)始偏離根。然后，它可能會(huì)又收斂回到根。例如 ：

5435866

• 如果選擇的初值不合適，可能會(huì)跳掉一些根，比如：

所以實(shí)際應(yīng)用時(shí)，需要知道自己待求解模型的大致情況，在合理的加以調(diào)整。

有哪些應(yīng)用？

• 比如知道某系統(tǒng)的傳遞函數(shù)，求解傳函的參數(shù)，可以將上述方法推而廣之，求解多維變量方程組，求導(dǎo)就變成求偏導(dǎo)了
• 又比如設(shè)計(jì)一電路測(cè)量某物質(zhì)的阻抗
• ....

總結(jié)一下

牛頓迭代法在解決實(shí)際問(wèn)題時(shí)，利用迭代求方程近似根的數(shù)學(xué)原理，在工程中有著很好的實(shí)用價(jià)值。比如求一個(gè)趨勢(shì)的極值，傳遞函數(shù)參數(shù)辨識(shí)等都有廣泛的實(shí)際應(yīng)用。本文拋磚引玉，有可能文章也有很多錯(cuò)誤疏漏的地方，如有不同看法或者發(fā)現(xiàn)錯(cuò)誤，歡迎留言交流指正。