今天是10月24日，也就是大家喜聞樂(lè)見(jiàn)的1024程序員節(jié)。

其實(shí)，按道理來(lái)說(shuō)，1024并不只屬于程序員，也同樣屬于我們通信汪。我們每天也沒(méi)少和1024打交道，不是么？

說(shuō)到1024背后的含義，相信大家都很清楚了。1024等于2的10次方，而這個(gè)2，就是二進(jìn)制。我們通常把每一位二進(jìn)制數(shù)字，稱(chēng)為1比特（bit）。

那么問(wèn)題來(lái)了，“比特”這個(gè)單位是怎么來(lái)的呢？我們?yōu)槭裁磿?huì)用“比特”作為信息量的單位呢？

哈哈，我想很多童鞋已經(jīng)猜到了，今天這篇文章，小棗君要給大家介紹的，就是我們信息和通信行業(yè)共同的祖師爺——香農(nóng)。

就是這么帥！

香農(nóng)，全名是克勞德·艾爾伍德·香農(nóng)（Claude Elwood Shannon），美國(guó)著名數(shù)學(xué)家、發(fā)明家、密碼學(xué)家，信息論的創(chuàng)始人。

接下來(lái)，小棗君就來(lái)給大家講講他的傳奇故事。

1916年，第一次世界大戰(zhàn)激戰(zhàn)正酣。在該年的4月30日，遠(yuǎn)離戰(zhàn)場(chǎng)的美國(guó)密歇根州佩托斯基（Petoskey），一個(gè)男嬰呱呱墜地。這個(gè)男嬰，就是香農(nóng)。

香農(nóng)從小就在一個(gè)名叫蓋洛德（Gaylord）的小鎮(zhèn)生活。他的父親，是這個(gè)小鎮(zhèn)的法官，名字叫克勞德·艾爾伍德·香農(nóng)（沒(méi)錯(cuò)，他老爹給兒子取了和自己一毛一樣的名字）。

香農(nóng)的母親，是小鎮(zhèn)的中學(xué)校長(zhǎng)，名叫梅布爾·沃爾夫·香農(nóng)（Mabel Wolf Shannon）。

父親是法官，母親是校長(zhǎng)，這樣的知識(shí)分子家庭，教育氛圍當(dāng)然不會(huì)差。

讀書(shū)時(shí)候的香農(nóng)，已經(jīng)表現(xiàn)出驚人的數(shù)學(xué)天賦。在8歲的時(shí)候，他就輔導(dǎo)他姐姐做高等數(shù)學(xué)作業(yè)。后來(lái)，他姐姐大學(xué)畢業(yè)，成為了數(shù)學(xué)教授。。。

除了數(shù)學(xué)之外，小香農(nóng)特別喜歡搞發(fā)明創(chuàng)造，其中就包括電報(bào)機(jī)、電動(dòng)船，以及各自機(jī)械動(dòng)物。

小時(shí)候的香農(nóng)

這個(gè)興趣愛(ài)好，估計(jì)和他的爺爺有很大的關(guān)系。他爺爺是一位農(nóng)場(chǎng)主兼發(fā)明家，發(fā)明過(guò)洗衣機(jī)和很多農(nóng)用機(jī)械。

值得一提的是，香農(nóng)還有一個(gè)遠(yuǎn)房親戚，也很喜歡搞發(fā)明。這位親戚的名字，叫愛(ài)迪生。

1936年，20歲的香農(nóng)從密歇根大學(xué)本科畢業(yè)，順利拿到了數(shù)學(xué)和電子工程雙學(xué)位。隨后，他進(jìn)入麻省理工學(xué)院繼續(xù)深造。

兩年后，香農(nóng)完成了他的碩士論文——《繼電器與開(kāi)關(guān)電路的符號(hào)分析》。

在論文中，他首次提出，可以用布爾代數(shù)來(lái)描述電路。他將布爾代數(shù)的"真"與"假"和電路系統(tǒng)的"開(kāi)"與"關(guān)"對(duì)應(yīng)起來(lái)，并用了數(shù)學(xué)中最簡(jiǎn)單的兩個(gè)數(shù)字——“1”和“0”來(lái)表示。

喬治·布爾（1815-1864），英國(guó)數(shù)學(xué)家

1847年，他提出了布爾代數(shù)，這是一種計(jì)算命題真?zhèn)蔚臄?shù)學(xué)方法。

香農(nóng)的這篇論文，雖然僅僅是碩士論文，但具有劃時(shí)代的意義。它奠定了數(shù)字電路的理論基礎(chǔ)。后來(lái)出現(xiàn)的計(jì)算機(jī)等設(shè)備，都以此為設(shè)計(jì)思路。

后來(lái)，著名計(jì)算機(jī)科學(xué)家赫爾曼·哥爾斯坦評(píng)價(jià)這篇論文是“有史以來(lái)最重要的一篇碩士論文”，“從藝術(shù)到科學(xué)上改變了電路的設(shè)計(jì)?！?/span>

赫爾曼·哥爾斯坦

世界上第一臺(tái)現(xiàn)代電子數(shù)字計(jì)算機(jī)ENIAC的研制者之一

因?yàn)檫@篇論文，香農(nóng)獲得了電子工程界的大獎(jiǎng)——美國(guó)Alfred Noble協(xié)會(huì)美國(guó)工程師獎(jiǎng)。

正當(dāng)世人以為這位電子工程天才會(huì)繼續(xù)大展拳腳的時(shí)候，他卻沒(méi)了下文。直到兩年后，他丟出了自己的博士論文——《理論遺傳學(xué)的代數(shù)學(xué)》，并憑此獲得了麻省理工的數(shù)學(xué)博士學(xué)位。

是的，這家伙玩了個(gè)跨界，竟然從電子工程學(xué)跨到了生物遺傳學(xué)。。。

年輕時(shí)的香農(nóng)

此后，香農(nóng)去普林斯頓高等研究院待了一年，與愛(ài)因斯坦、馮·諾依曼等大師級(jí)人物有過(guò)交集。他的研究方向，變成了機(jī)械模擬計(jì)算機(jī)。

1941年，香農(nóng)發(fā)表了新的論文——《微分分析器的數(shù)學(xué)理論》，通過(guò)機(jī)械式計(jì)算機(jī)來(lái)求解微分方程。

當(dāng)時(shí)的微分分析器

同年，香農(nóng)加入了著名的貝爾實(shí)驗(yàn)室（此后一直工作到1972年）。

最開(kāi)始進(jìn)入貝爾實(shí)驗(yàn)室的時(shí)候，香農(nóng)是去的數(shù)學(xué)部，從事和戰(zhàn)爭(zhēng)相關(guān)的工作——研究火力控制系統(tǒng)和密碼學(xué)。

他所在的密碼破譯團(tuán)隊(duì)，主要負(fù)責(zé)追蹤納粹德國(guó)的飛機(jī)和火箭。他還用數(shù)學(xué)手段，推導(dǎo)了X系統(tǒng)的安全性。這個(gè)X系統(tǒng)，就是指英國(guó)首相丘吉爾和美國(guó)總統(tǒng)羅斯福之間的專(zhuān)用電話(huà)線(xiàn)路。

1943年，英國(guó)著名數(shù)學(xué)家、密碼學(xué)家阿蘭·圖靈訪(fǎng)問(wèn)貝爾實(shí)驗(yàn)室，并與香農(nóng)共進(jìn)午餐。

阿蘭·圖靈（1912-1954）

鑒于兩人的特殊工作性質(zhì)，他們并沒(méi)有進(jìn)行密碼學(xué)的交流，反而更多的是討論人造思維機(jī)器（也就是后來(lái)的AI人工智能）。

當(dāng)時(shí)，香農(nóng)告訴圖靈，他不僅僅滿(mǎn)足于向這臺(tái)“大腦”里輸入數(shù)據(jù)，還希望把文化的東西灌輸進(jìn)去。

這個(gè)想法震驚了阿蘭·圖靈，他感到非常不可思議，驚呼道：“他（香農(nóng)）想給它來(lái)點(diǎn)音樂(lè)！”

后來(lái)，隨著對(duì)密碼研究的不斷深入，香農(nóng)逐漸形成了一套完整的密碼學(xué)理論。與此同時(shí)，他開(kāi)始思考有效通信系統(tǒng)的問(wèn)題?，F(xiàn)代信息論的思想雛形，逐漸在他的腦海里形成。

1945年，他向貝爾實(shí)驗(yàn)室提交了一份備忘錄——《密碼學(xué)的一個(gè)數(shù)學(xué)理論》。

1948年6月至10月，香農(nóng)在《貝爾系統(tǒng)技術(shù)雜志》連載了那篇改變?nèi)祟?lèi)社會(huì)發(fā)展軌跡的論文——《通信的數(shù)學(xué)理論》。次年，香農(nóng)又在該雜志發(fā)表了另一篇著名論文——《噪聲下的通信》。

在這兩篇論文中，香農(nóng)給出了通信系統(tǒng)的基本模型，提出了信息熵的概念以及數(shù)學(xué)表達(dá)式。

計(jì)算信息熵H的公式

大家如果是工科出身且還記得通信原理的話(huà)，就知道，一條信息的信息量大小，和它的不確定性有直接關(guān)系。

舉個(gè)例子：如果我告訴你，世界是圓的。這種非常確定的內(nèi)容，信息量是0（等于一句廢話(huà)）。如果我告訴你，XX樹(shù)下埋了一百萬(wàn)美金，那這個(gè)信息量就很大。上面那個(gè)公式，就是根據(jù)確定性大小算信息量的，考研必考題。

香農(nóng)指出，信息是可以被量化的，用數(shù)字編碼可以代表任何類(lèi)型的信息。信息進(jìn)行數(shù)字化后，可以經(jīng)壓縮再傳輸，極大地減少傳輸時(shí)間和傳輸成本。

香農(nóng)還推出了比特的概念（他將發(fā)明這個(gè)詞的榮譽(yù)歸功于自己的同事約翰·圖基），將其稱(chēng)為“用于測(cè)量信息的單位”。

bit

比特（bit），其實(shí)就是二進(jìn)制數(shù)（binary digit）的縮寫(xiě)。

眾所周知，比特后來(lái)成為了信息時(shí)代的基石。我們今天在互聯(lián)網(wǎng)上所有的信息，都在用它來(lái)表達(dá)。

除了信息熵之外，香農(nóng)還在論文中提出了大名鼎鼎的香農(nóng)公式。

香農(nóng)公式

簡(jiǎn)單來(lái)說(shuō)，信息熵討論的是信息量及數(shù)據(jù)壓縮的臨界值。而香農(nóng)公式，則是討論通信速率的極限值。

具體細(xì)節(jié)我們就不討論了哈，不然人都跑光了。

我們只需要知道，直到現(xiàn)在的5G，我們還沒(méi)有逃脫香農(nóng)公式的“魔爪”。有些人一輩子干的事，就是無(wú)限逼近香農(nóng)公式的極限。

兩篇論文的發(fā)表，奠定了信息論的基礎(chǔ)，對(duì)學(xué)術(shù)界造成了巨大的震動(dòng)，影響力絲毫不亞于1947年12月世界上第一個(gè)晶體管的發(fā)明（同樣來(lái)自貝爾實(shí)驗(yàn)室）。

當(dāng)時(shí)，因?yàn)樾畔⒄摰挠^(guān)點(diǎn)非常超前，還引起了一些質(zhì)疑和反對(duì)。后來(lái)，隨著時(shí)間的推移，信息技術(shù)迅速發(fā)展，信息論的價(jià)值越發(fā)顯現(xiàn)，香農(nóng)也確立了自己“信息和通信雙料祖師爺”的地位。

忘了說(shuō)了，發(fā)表論文時(shí)的香農(nóng)，才33歲。

1949年，香農(nóng)在備忘錄《密碼學(xué)的一個(gè)數(shù)學(xué)理論》的基礎(chǔ)上，又發(fā)表一篇重要論文——《保密系統(tǒng)的通信理論》。

這篇論文再次震驚學(xué)術(shù)界。波士頓環(huán)球報(bào)稱(chēng)：“這一發(fā)現(xiàn)將密碼從藝術(shù)變成為科學(xué)”。

論文開(kāi)辟了用信息論來(lái)研究密碼學(xué)的新思路，奠定了現(xiàn)代密碼理論的基礎(chǔ)。香農(nóng)也憑此成為近代密碼理論的奠基者和先驅(qū)。

1949年3月27日，香農(nóng)迎娶了自己在貝爾實(shí)驗(yàn)室的同事，瑪麗·伊麗莎白·摩爾（Mary Elizabeth Moore），然后繼續(xù)從事自己熱愛(ài)的科學(xué)研究工作。

1952年，香農(nóng)夫婦共同推出了著名的“會(huì)走迷宮的老鼠”——忒修斯。

香農(nóng)和忒修斯

這是一只木制的、帶有銅須的玩具老鼠。它能通過(guò)不停地隨機(jī)試錯(cuò)，穿過(guò)一座由金屬墻組成的迷宮，直到在出口處找到一塊金屬的“奶酪”。

最厲害也最具獨(dú)創(chuàng)性的是：“忒修斯”能夠記住這條路線(xiàn)，甚至在下一次任務(wù)中，迷宮的墻壁有所移動(dòng)，都難不倒它。

當(dāng)時(shí)，香農(nóng)還專(zhuān)門(mén)拍攝了一段影像，制作成電視節(jié)目，展示這只老鼠。這個(gè)節(jié)目引起了公眾的極大興趣，在人們看來(lái)，這就是一只“會(huì)思考”的老鼠啊。

其實(shí)，走迷宮的秘訣并不在老鼠身上，而是在迷宮上。迷宮各處隱藏了75個(gè)繼電器開(kāi)關(guān)，通過(guò)這些簡(jiǎn)單的只具有開(kāi)關(guān)功能的設(shè)備，最終實(shí)現(xiàn)了老鼠的所謂“智能”。

1956年，香農(nóng)成為麻省理工學(xué)院（MIT）的客座教授。1958年，成為終生教授。

1961年，香農(nóng)和同事索普做出一個(gè)香煙盒大小的小型計(jì)算機(jī)，小盒子藏在口袋里，用大腳趾控制藏在鞋子里的開(kāi)關(guān)。這個(gè)設(shè)備用來(lái)干什么呢？用來(lái)預(yù)測(cè)賭場(chǎng)的輪盤(pán)賭結(jié)果，計(jì)算小球落在輪盤(pán)不同位置的概率。

憑借這個(gè)設(shè)備，他們倆還真的在拉斯維加斯贏到了錢(qián)。后來(lái)，因?yàn)楸欢⑸?，所以趕緊放棄并離開(kāi)了。

香農(nóng)另一個(gè)著名的發(fā)明，是一個(gè)會(huì)下國(guó)際象棋的機(jī)器。這個(gè)機(jī)器用了150個(gè)繼電器開(kāi)關(guān)，具備不錯(cuò)的計(jì)算能力。1965年，香農(nóng)帶著這個(gè)機(jī)器跑去挑戰(zhàn)當(dāng)時(shí)的世界冠軍Mikhail Botvinnik。雖然最后還是輸了，但表現(xiàn)不賴(lài)。

1973年，在以色列阿什凱隆召開(kāi)的信息論國(guó)際研討會(huì)上，IEEE命名了香農(nóng)獎(jiǎng)，并把這一獎(jiǎng)項(xiàng)授于香農(nóng)本人。這種自己領(lǐng)自己名字命名的獎(jiǎng)的做法，后來(lái)被人戲稱(chēng)為“香農(nóng)套路”。

1985年，在英格蘭布萊頓舉行的“國(guó)際信息理論研討會(huì)”上，香農(nóng)突然現(xiàn)身，引起了全場(chǎng)轟動(dòng)。參加會(huì)議的年輕學(xué)者簡(jiǎn)直不敢相信自己的眼睛，竟然親眼看見(jiàn)了信息理論的祖師爺！更讓人瞠目結(jié)舌的是，香農(nóng)竟然在會(huì)場(chǎng)上表演起了拋物雜耍，讓整個(gè)會(huì)場(chǎng)更加沸騰。。。

香農(nóng)當(dāng)年還是投資大師、炒股高手，擅于采用套利的手法，迅速賺取財(cái)富。

1986年8月11日，著名的《巴倫周刊》曾匯總了1026家共同基金的近期表現(xiàn)，香農(nóng)排名第一。。。

剛才我們提到香農(nóng)在會(huì)場(chǎng)表?yè)P(yáng)拋物雜耍。其實(shí)，香農(nóng)終身都熱愛(ài)雜耍。在很年輕的時(shí)候，他就學(xué)會(huì)了騎獨(dú)輪車(chē)和拋接球。當(dāng)年在貝爾實(shí)驗(yàn)室上班的時(shí)候，他經(jīng)常特立獨(dú)行地騎獨(dú)輪車(chē)去上下班，成為一道靚麗的風(fēng)景線(xiàn)。

被科學(xué)耽誤了的雜技天才

到了晚年時(shí)期，香農(nóng)對(duì)雜耍的熱愛(ài)簡(jiǎn)直到了癡迷的地步。他花了很多時(shí)間刻苦練習(xí)，不斷提高雜耍水平。他甚至還擁有一張雜耍學(xué)博士證書(shū)，視為至寶。

除了雜耍之外，他還熱衷于制造玩具。他建造了火焰噴射喇叭、火箭驅(qū)動(dòng)飛盤(pán)、自動(dòng)下棋機(jī)器人等各種奇怪的玩具。

在后來(lái)人工智能先驅(qū)馬文·閔斯基的啟發(fā)下，他設(shè)計(jì)了一個(gè)被稱(chēng)為“終結(jié)機(jī)器”的機(jī)器人。當(dāng)你把開(kāi)關(guān)撥到“開(kāi)”，盒子打開(kāi)并伸出一個(gè)機(jī)械手，它把開(kāi)關(guān)撥回到“關(guān)”，然后機(jī)械手縮回到盒子里去。

“終極機(jī)器”……

在馬薩諸塞州溫徹斯特香農(nóng)的家中（香農(nóng)稱(chēng)為“熵宅”），堆滿(mǎn)了他的小發(fā)明。他的車(chē)庫(kù)中存放了至少30輛奇特的獨(dú)輪車(chē)，其中包括一個(gè)沒(méi)有腳蹬的獨(dú)輪車(chē)，一個(gè)是方形的輪胎的獨(dú)輪車(chē)，一個(gè)特為兩個(gè)人騎的獨(dú)輪車(chē)。。。

真正的老頑童

香農(nóng)還把玩雜耍上升到理論的高度，開(kāi)始撰寫(xiě)《統(tǒng)一的雜耍場(chǎng)理論》。。。

遺憾的是，這篇作品還沒(méi)有完成，香農(nóng)就因阿爾茲海默癥于2001年2月26日去世了，享年85歲。

著名學(xué)者理查德·布拉胡特（Richard Blahut）教授在香農(nóng)雕像（位于香農(nóng)老家蓋洛德鎮(zhèn)）的落成典禮上，是這么評(píng)價(jià)香農(nóng)的：

“在我看來(lái)，兩三百年之后，當(dāng)人們回過(guò)頭來(lái)看我們的時(shí)候，他們可能不會(huì)記得誰(shuí)曾是美國(guó)的總統(tǒng)。他們也不會(huì)記得誰(shuí)曾是影星或搖滾歌星。但是仍然會(huì)知曉香農(nóng)的名字。學(xué)校里仍然會(huì)教授信息論?！?/span>

致敬！偉大的信息時(shí)代之父——克勞德·艾爾伍德·香農(nóng)！

—— The End ——

參考文獻(xiàn)：

1、香農(nóng)的信息論究竟牛在哪里，知乎，科言君

2、“信息時(shí)代之父”香農(nóng)：用一只木老鼠奠定人工智能的基礎(chǔ)，大科技雜志社

3、香農(nóng)傳：從0到1開(kāi)創(chuàng)信息時(shí)代，中信出版社，吉米·索尼，羅博·古德曼

4、信息論，一個(gè)撬動(dòng)地球的支點(diǎn)，坤鵬論

5、香農(nóng) Claude Shannon 有哪些奇聞?shì)W事，知乎

6、信息論之父香農(nóng)，丁玖

7、克勞德·艾爾伍德·香農(nóng)，百度百科詞條