能否盡量通俗地解釋什麼叫做熵？

01-04

「盡量通俗」以一個只受過基本物理化學教育的經濟本科大學生大概能接受為標準
能否加入一些從理論史的角度來看的內容？比如為什麼要引入熵這樣一個概念？人們對它的認識是怎樣變遷延伸的？

前些天隨手寫了個對分析力學的解讀，學妹說很有知乎大神的風範。特地來知乎轉轉，看了很多好貼好回答，也來貢獻自己的力量。

--------------------------------正文（看起來長，可讀性很高）-----------------------------------

其實前面幾位的回答已經足夠好了，相信有數理基礎的人基本能讀懂了，但是還有幾個「一聽就懂的關鍵術語」，前面的大神沒有提到，我來補充。

也是從概率論入手：

1、原理一：微觀狀態等概率原理

假設有5枚硬幣，每一枚硬幣要麼正面（1）朝上要麼反面朝上（0），「00010」就是一個微觀狀態，每個硬幣有（0、1）兩種可能，於是一共有「2的5次方=32種」可能。注意，記錄微觀狀態的時候，「00010」和「00100」是兩種不同的狀態。

2、原理二：全同粒子原理（全同硬幣）

由於這些硬幣宏觀上是不能被區分的，於是「00010」和「00100」這兩種微觀狀態，對應於同一種宏觀狀態——即：1個正面4個反面——可以數出來，這種宏觀狀態出現的概率（記做：P=5/32）（也叫做微觀狀態數為5）。

3、結論呼之欲出：二項分布，高斯分布

我們已經知道，微觀狀態等概率分布；那麼宏觀狀態如何分布呢？答案就是中學學過的二項分布；當硬幣很多很多的時候，就過渡到宏觀狀態的高斯分布。高斯分布希么特點呢？兩邊概率很小，中間概率很大。當硬幣非常非常多的時候，中間一小塊區域的概率近乎於100%。也就是說，中間的那些宏觀狀態，擁有的微觀狀態數（記做：W）非常大。

4、什麼是熵(記做：S)？

熵的統計學定義就是：某個宏觀狀態的微觀狀態數，取對數（S=lnW）。可以看得出來，熵越大的宏觀狀態，具有越大的出現概率。

5、所謂熵增：

更為形象的事件是：1、這無數多個硬幣，不是躺在桌子上的，而是在時常地跳動，對於某個硬幣來說，它一會兒正面一會兒反面。但是對於所有硬幣這個整體，它基本上是50%正面和50%反面。2、如果在某一時刻，你強行讓所有硬幣都是正面（此宏觀狀態的微觀狀態數為1，熵最小），但是你阻止不了它跳動，這些硬幣很快就會「演化成」熵最大的宏觀狀態，是謂熵增。

6、補充：

理論上，硬幣世界是可以演化到全部正面或全部反面的」小熵「狀態，但是，動輒阿伏伽德羅常數數量級（10^23）的統計結果會告訴你，這個概率非常非常非常小，高斯分布的極限是什麼？ $delta$ 函數，就是在熵最大的地方的一個窄條。

通俗的理解熵：

舉個栗子，對於這樣一堆沙子，我們可以隨意的更改沙堆的「形狀」，甚至可以組成數萬億種形狀，但不管哪種形狀，構成沙子的「結構」不會發生任何改變，從熵的意義上講，這個沙堆的熵值很高（這裡的沙堆泛指一切自然形成的沙堆，大同小異）。

but，當我們把沙堆弄成這樣一個沙堡：

這個時候，讓一堆沙組成圖中這種有規則形狀的沙堡的組合就會驟降，甚至只有幾種組合能讓一堆沙看起來和圖中的沙堡特別相似（沙子的結構仍然不會發生任何變化）。從熵的意義上講，這個沙堡的熵值很低。

----------------------------------------

為什麼要引入熵這個概念？

19世紀，工程師在關注蒸汽機效率這個問題的時候，水要達到多熱，要加入什麼樣的沸騰的物質才能讓蒸汽機效率更高等等，為解答這些問題，熱力學誕生了，並引入了熱量、溫度、能量等概念。並出現了熱力學定律，這個時候的熱力學定律是為了解釋熱量是如何流動。隨著科學家了解深入，以及為了更好的理解宇宙進化及時間流逝，熱力學第二定律出現了熵這個概念。

----------------------------------------

宇宙進化or時間流逝

回到我們上面的沙堆那個栗子里。如果我們把上圖中的沙堡放在風中，很快這個沙堡中的沙粒會被風吹走，重新形成熵值更高的沙堆。在物理學原理里，沒有哪條物理原理規定風不能將沙粒吹起，並精確的按照沙堡的形狀擺放。從原則上說，風可以把沙粒吹起，並堆疊成一個沙堡。但它就是絕對不可能發生。而另一種可能性卻不能避免，即風會將熵值很低的沙堡吹成熵值很高的沙堆。這吻合了熱力學第二定律，也就是為什麼可稱之為「熵增定律」。正是熵增定律，解釋了一切事物都是從有序趨向無序，也就說宇宙也是從有序走向無序，即xx億年後，太陽也會從有序的球體爆炸為無序的氣體和粉塵，即星雲。

太陽的命運也說明了其它恆星的命運，即所有的恆星最終都會消亡，屆時整個宇宙會陷入無邊的黑暗，進而宇宙消亡。

以上內容全部參考自《宇宙的奇蹟：時間之箭》這部紀錄片。感謝 BBC.

大家回答得都很棒。

但是你們不能老上公式啊，妹子都看不懂的。

來來，給大家看看我給一個充滿好奇心妹子講解成功的案例。

ps:本回答獲得當事人的授權允許。

初學」熵」時，我曾不自覺的像題主一樣想用某種具象化的東西來幫助自己理解」熵」；等後來真正弄懂了」熵」，我又不得不把這些亂七八糟的東西從腦子裡清除出去。

這就是熵。

熵：拆字為火商

火為熱量Q，熱與溫度的商為熵，Q/T

那它為什麼表示為系統的混亂度？

先說什麼叫做熱，熱（heat）是大量分子無規則運動的一種表現。熱其實在一定程度上表示了系統混亂度。

熱力學第二定律指出，自發的過程都是不可逆過程。是一種從有序到無序的過程。

熱力學第二定律說的是熱與功的轉換。功可以完全轉換為熱，反過來卻不行。因為功是一種有方向行的有序行為。熱則是無序行為。

所以熵函數是系統混亂度的度量，一切自發的不可逆過程都是從有序到無序的變化過程，向混亂度增加的方向進行。

既然是「盡量通俗易懂」，那我就盡量一把。熵最早是由克勞修斯提出。按現在的學科分法，他應該也是搞物理化學的。當時人們熱衷於氣體、熱機、夢想著永動機。克勞修斯發現當前沒有一個量來表示系統（孤立系統）的穩定性，這怎麼能行？。傳統物理量：溫度、壓強、能量都沒法來干這事。克勞修斯想，既然沒有，我就創造一個，取名叫了熵。並對其進行了定量描述，用來判斷系統的穩定性。

雖然熵很早就沒克勞修斯這種大神創造出來了。但是它的物理意義一直沒人知道。相當一段時間就被當成一個純物理量來用。直到又一位大神玻爾茲曼的出現。他是研究統計熱力學的，他發現熵這個宏觀物理量和微觀的權重（所謂權重，可以簡單理解為概率的大小）很相似。從權重角度考慮，熵就是宏觀狀態的多樣性。這就明白多了，哪個狀態的概率大、其熵就大。而概率是可以用數學方法算得。

關於熵的不形象比喻：高中在操場做操的時候，只有在被命令的情況下才能按方正隊形站好，一旦處於命令解除，處於自由狀態，肯定是亂成一團。因為亂成一團的概率大、多樣性高、熵大。這一過程就是熵增加原理的比喻。但是、但是、但是，絕不是說熵增加過程就是變混亂的過程。這是不對的。可能是滿足某一概率分布。

水平有限，請大神們指正。

想理解熵是什麼，首先我們要理解熵為什麼只增不減。

說到熵增，我們都知道很多例子。比如理想氣體擴散後不可能自己縮回去，溫度只能自發從高溫傳到低溫，這些都是熵增的過程。一句話，不可逆過程。

但問題是，這些不可逆過程發生的條件是什麼？是不是在某些條件下可逆？

我來給大家舉一個例子，一個熵自動減少的例子

好的。現在假設如下圖所示一個密閉的長方體空間中有六個氣體分子，一開始所有六個氣體分子都被一個擋板壓縮在長方體容器的左半邊，現在擋板取消，分子開始擴散，充滿整個容器，就像第二張圖所顯示的那樣

但是，如果我們適當規定一下氣體分子的速度方向，就像上圖那樣，兩個分子向左，四個分子向右，會發生什麼情況呢？是的，我們會發現在某一個時刻，向左的兩個分子碰壁後回彈，和向右的四個分子運動方向一致，最終這六個分子完全進入了右半空間。

這是氣體自發的擴散，按定義熵增加，又自發地退回到右半邊，按定義是熵減少。於是氣體自發地熵先增加後減少！

再舉一個最極端的例子。溫度總是自發地由高溫物體傳向低溫物體。在宏觀世界不可想像低溫物體自發傳熱給高溫。但是當分子數目足夠少的時候呢？

假設有三個分子組成的系統，動能分別為5,10,15焦耳，按照溫度對應於分子平均動能的觀點，它們的溫度對應於平均動能10焦耳左右。另外也有三個分子組成的系統，完全一樣的分子只是速度不一樣，7,8,9焦耳。現在這兩組分子被一個隔板分隔在長方體容器的兩端。現在隔板去掉，讓這兩組分子發生碰撞，很有可能第一次碰撞就在動能為5的分子和這三個分子之間。假設是動能5焦耳和9焦耳發生碰撞，動量守恆交換交換速度，也同時交換能量，結果是原來5,10,15的系統變成了9,10,15；原來7,8,9的系統變成了7,8,5。這樣，高溫系統的分子平均動能更高了，低溫系統的平均動能更低了，也就是高溫更高，低溫更低，熱量自發地從低溫傳向高溫。

現實中怎麼可能！的確，在現實中我們費力吹起一個氣球，用針一紮，只能看見氣體自發地從氣球里噴出，卻從沒有看到氣體自發地回到氣球里。如果我們不費力收拾我們的桌子，它們只會自發地越來越亂，從來沒有看見它們自發地擺整齊過。

但是，如果我們桌子上只有兩本書呢？哪怕我們不經意間隨手一放，也有可能把原來攤在桌面上的兩本書疊在一起。這樣一來，熵又減少了。

不錯，現在我們發現熵增的關鍵所在：分子數目。當我們在上面的體系中僅僅增加一兩個分子的時候，情況似乎沒有什麼變化。我的桌子上擺了不管兩本書還是三本書，似乎隨手就可以把他們疊放在一起，不需要特別的整理。但是，當分子數目一個一個的增加，一直到標準狀態下（零攝氏度，一個大氣壓下）在22.4升的容器里有個分子的時候，由量變積累的質變就發生了。

那麼，這個質變是怎麼發生的呢？

還是那個長方體空間里的例子。當擋板打開前，所有的分子都在左側，當擋板打開後，所有的分子自由選擇在長方體左邊還是右邊。所以，擋板打開後，所有的分子都重新回到右邊的概率是也就是說1.56%的可能性，再加上全部重新回到左半邊，一共是3.12%的概率氣體重新回到整個容器的一半，即熵不變。雖然很小，但是有可能的。要知道，哪怕是所有分子都在左半邊而只有一個分子在右半邊也叫熵增。所以，當氣體分子數目增加到個，那原先被限制在長方體左半邊的氣體擴散後又重新回到一半體積的概率是，可想而知和沒有沒區別。

但問題是，可不可以最終結果兩邊不同呢，還是那個長方體的例子，一開始左邊是1000個分子，那最終結果可不可以是左邊600個，右邊四百個呢？看上去雖然兩邊都有，熵是增加了，但還沒有到最大，這樣可不可以呢？其實這種情況可以這樣理解。在一個充滿800個氣體分子的長方體里，我們再從長方體左邊加入兩百個氣體分子。那這兩百個氣體分子的運動不會受到其他氣體分子運動的影響，也就是說，相當於原來真空的箱子里有兩百個氣體分子。結果呢，這多出的兩百個還是會平分到兩邊，也就是兩邊都一樣。

（當然，嚴格的數學意義表述是二項分布，這樣得到的結果如下圖所示，藍線從外到內分別是長方體中含有10,40,70,100,130,160個分子時氣體分子分布情況，橫坐標表示長方體左側所有氣體分子數佔總體分子數目的比例，縱坐標表示相對應分布的微觀狀態數，做了歸一化處理，可以近似看成對應該微觀狀態的概率，可見分子數目足夠多的時候，只有一種情況最常見最穩定，就是所有氣體分子均勻分布）

當然，我們允許長方體兩邊的氣體分子有一個兩個的差異，就好像在真空的長方體里只有兩個分子的情況下我們也無法按照熵增加的要求要求這兩個分子一定一個在左側，一個在右側。

熵增，這樣一個在微觀狀態下完全由概率決定的事情，在宏觀狀態就成了必然。

因為熵自發減少的可能性是如此之小，以至於自從宇宙誕生到現在所有的分子運動的嘗試中，始終無法找到一個幸運的系統或者分子能夠自發的熵減。

一句話，熵之所以必然增加，沒有動力或者能量的原因，是因為熵減少的概率，或者可能性小到可以忽略不計。

熵的微觀失效宏觀有效是統計力學系統微觀量波動的本質。

但是，到現在我們還沒有說明熵到底是什麼？體積增加，擴散，溫度傳導之間有什麼相同的地方？為什麼兩個不同溫度的物體傳導熱量，總能量不變而熵增加。這些問題要說的簡單明了的話一兩句可能不夠，我現在沒有時間了，大家要是感興趣我過幾天再把熵和溫度的關係給大家寫一下。這裡可以先提前說一下

熵是物體在一個一定的宏觀狀態下所有微觀狀態的總和。這是目前物理上對熵理解的最透徹的定義。

現在又有時間了，可以繼續寫。

這次要涉及一個更複雜也更本質的內容，為什麼熱傳導是熵增過程。當然用數學公式推導並不複雜，但似乎很難理解的感覺，這一次不可避免用到一些數學，我嘗試這次盡量簡單一些，給出一個直觀一點的描述。

熵最本質的定義就是一定宏觀狀態下所有微觀狀態的總和。現在我們假設有兩種同樣種類，同樣分子數目的氣體，一個溫度高，T1，一個溫度低，T2。按照熵增原理，這兩個氣體混合後總熵增加。問題是為什麼會增加？也就是說為什麼兩組氣體的微觀狀態數目會增加。

首先要解釋一下微觀狀態。當一個宏觀系統的宏觀變數如分子數目，總能量都一定（總能量也近似為總動能，即溫度一定）時，微觀狀態是指所有各個分子的動能組成的一個集合。假如有總共有N個分子，我們把它們編號為1,2,3,4,5…N，那麼每一個分子的能量如下

這裡編號1到6的分子能量相同都是E1，然後是編號7到11的分子能量高一點，為E2（為了簡化起見，這裡就不討論每一個相同能量狀態下還有不同的量子態，只是定性說明原理）。因為氣體分子在不停地相互碰撞，碰撞的時候動能交換，所以能量也會交換，如果分子1和分子2碰撞，結果沒有任何變化，1,2分子能量碰撞前後都一樣，還是一樣的分布狀態。但是如果分子1和分子7碰撞，雖然總能量不變還是E，但微觀分布狀態變了，編號7,2，3,4,5,6的分子能量相同都是E1，編號1,8,9,10，11的分子能量為E2。我們把初始粒子能量分布狀態稱為分布1，分子1和分子7碰撞後的粒子能量分布狀態稱為分布2，所有這些滿足總能量相同但各個微觀粒子的能量不同的微觀狀態總數為G。那在相同的總能量分布狀態下，總共有多少種微觀狀態呢？接下來就是一個簡單的排列組合問題。總的組合數目為G=N!/(n1!
n2! n3!...)，這裡！是階乘，n1指在這個系統里能量為E1的分子總數目為n1，n2指在這個系統里能量為E1的分子總數目為n2，依次類推。

按理說，推理到這裡微觀狀態解釋清楚了，熵也就解釋清楚了，低溫物體處在能量較低的狀態，比如E1的分子數目肯定比高溫物體多，按照這個公式計算的G肯定比高溫物體小，然後和高溫物體接觸的時候通過充分的碰撞，兩者溫度相同，分子能量分布也趨於相同，結論完成。

但是這裡有一個問題：為什麼低溫物體的熵一定會小？

如果一個系統所有的氣體分子能量各個不同，那它的微觀狀態數就是N！，和總能量無關，也就是說不論高溫還是低溫，微觀狀態數都不變，熵都不變，只和總分子數有關。

按照常理，似乎氣體分子的速度，也就是分子的能量可以取任意數，或者說，兩個氣體分子的能量差可以無限小。就算這個氣體系統中分子最高動能只有1J，那在0J和1J之間有多少自然數呢？在0J和0.1J之間呢？0J和0.001J之間呢？無窮多個。不管有多少分子，我們都可以在0和任意正數之間找到一個自然數與之對應。那這個氣體系統的總溫度可以無限逼近絕對零度，但同時總熵不變，都是N！。

問題出在哪裡呢？

其實我們這裡有一個被大家忽略的假設：為什麼能量一定可以無限細分呢？

既然我們都承認，物質是不能被無限細分的，有被稱為分子，原子的基本組成單元。就算是這些基本單元，也要有電子質子中子這些單元，它們有一個共同點，就是它們都是由各自的基本大小無法被分割的。因此，說我們切割出半個原子，或者半個電子是沒有意義不可能的。

既然物質在微觀世界不可能無限分割，那能量是不是也是這樣呢？或者說，物質在微觀世界是不連續的，能量會不會也是不連續的呢？

從此也可以繼續向下問，那時間呢，長度呢？是不是都有一個最小單位時間？最小單位長度？小於這個長度，沒有單獨的一個物體存在。同樣，時間是以最小時間為單位一點一點向前推進的，小於這個單位時間的時間差不存在？

當然，答案是肯定的，我們在宏觀世界裡所有認為連續的東西在微觀世界裡基本上都是片段的。能量也是如此。

這個世界存在一個最小的能量單位，分子不管獲得還是失去能量，都只能是這個最小能量單位的整數倍。這是氣體宏觀熵的最本質的來源。

正式因為如此，任意一個氣體分子的能量增量必須大於某一個最小單位能量。公式如下（沒有公式只能說到這裡了額。。。這裡C和M,H都是常數，P是動量）

這個也是量子力學裡的測不準原理（只是簡單說明性質，大家定性理解就好。。。沒有詳細論證。。請不要太較真）

因此，如果所有的氣體分子能量都不一樣，那總平均能量只能是最小單位能量C乘以（N+1）/2。當然，這個數字具體是多少我們不知道，但任何一個系統溫度不同於它只能是系統內部有部分分子能量相同。然後溫度越低，能量相同的分子就越多。於是以上熱運動帶來的熵就算是徹底解決了。

當然。關於為什麼熵的最終表達式是lnG，還有就是為什麼同質量的不同溫度的同種物體混合熵增加，這又是另一個問題了。我們可以繼續討論

與溫度對偶的廣義位移——對學過分析力學的人來說是最平凡的解釋

重要的解釋貼在正文底下，按順序依次是：

正文：小球排列組合數與信息熵定義之間的漸進等價

回復：推導過程中有關極限應用的幾個問題

回復：熵的不同定義，物理的和資訊理論中的

======================正文======================

熵反映了狀態的複雜程度，這是一個眾人皆知的事實。但是有沒有數學上的推導可以佐證這句話呢？答案是有的，只需要大一數學知識和三分鐘耐心，就可以掌握熵與複雜度之間在數學上的聯繫。

一、狀態

假設在一個空間中有 $N$ 個小球，這個空間被劃分為 $m$ 個房間。系統的狀態就是小球在不同房間的分布。有的狀態很容易出現，有的狀態就不容易出現（比如所有小球都呆在相同的房間中）。

二、指定狀態的組合數

接下來，我們給每個房間指定一個小球數，以後只研究確定房間小球分配的情況。假設第 $i$ 個房間中恰好落有小球 $n_i$ 個，因為一共有 $m$ 個房間，我們有 $sum_{i=1}^{m}{n_i}=N$ 。那麼一共有多少種可能小球的組合數呢？答案是 $W=frac{N!}{prod_{i=1}^{m}{{n_i}!}}$

解釋：按所在房間號從小到大排列小球，一共有 $N!$ 種排列方法，由於在每個房間中的小球不分順序，因此要除以每個房間中小球的排列數 ${n_i}!$

如果隨機拋小球到整個空間中，小球們的分布更可能呈W值大的狀態

三、指定狀態的熵

由於組合數 $W$ 實在太大了，不妨對它做一個單調變換----取個對數，然後再來個尺度變換抵消掉小球總數 $N$ 的影響，記

$H=frac{1}{N}ln{W}$

下面我們來推導 $H$ 就是指定小球分布的熵：

$H=frac{1}{N}ln{W}=frac{1}{N}ln{N!}-frac{1}{N}sum_{i=1}^{m}{ln{n_i!}}$

使用數學上有名的Stirling公式，當 $N$ 很大時有近似：

$ln{N!}simeq Nln{N}-N$

這個公式也可以用到每個房間中，因為小球總數很大時，每個房間的小球數基本也很大，代到上邊，化簡可得：

$H simeq -sum_{i=1}^{m}{frac{n_i}{N} ln{frac{n_i}{N}}}$

在資訊理論中，一個離散概率密度 $p(X=i)=p_i$ 的熵是：

$-sum_{i=1}^{m}{p_iln{p_i}}$ ，有沒有發現和上面 $H$ 的推導結果驚人一致，只需要令 $p_i=frac{n_i}{N}$ 。

因此我們可以得出，某種狀態的熵 $H$ 不過是具有這種狀態的小球組合數 $W$ 的對數歸一化表示： $Hsimeq frac{1}{N}ln{W}$ 。組合數多了就更不知道到底是其中的哪一個，系統的無序性、複雜性也大了，從上面的推導得出熵也大了。

本解釋來自"pattern recognition and machine learning"第一章第6節

======================分割線======================

回答王大東的疑問：

1. 為什麼要取對數而不用其他單調函數。

也許是因為只有這樣變換，排列組合數和熵的定義才能恰好對上。一般來說，科學家需要把跨越多個數量級的數據(比如從1億到1億億億之間)單調變換到一個更窄區間時(比如1到20之間)，需要一種變換能夠把乘法變為加法，這就是對數變換。

2. 遇到有些格子里球很少怎麼辦？

這正是除以 $N$ 的另一個好處。首先，這個解釋只適用於 $N$ 很大的情況。重新來看看定義：

$H=frac{1}{N}ln{W}=frac{ln{N!}-sum_{i=1}^{m}{ln{n_i!}}}{N}$

當某個房間的小球數 $n_i$ 和 $N$ 相比過小時 $ln{n_i!}$ 也很小，這一項可以直接從求和中刪掉，甚至都不用考慮Stirling公式在小樣本上失效的問題。因為我們在 $H$ 計算中，只有和 $N$ 數量級相當的分子部分才予以考慮，這些無足掛齒、讓Stirling公式失效的房間中的小球數加在一起和 $N$ 相比也是九牛一毛。在隨後的計算中也可忽略。畢竟我們在算一個無窮比無窮型的分數值。

3. 是否把n!當作(n/e)^n來近似？

不是的，我們來看看wiki上的Stirling公式：

$n!simeq sqrt{2pi n}left( frac{n}{e} ight) ^n$

首先對這個數取對數得到：

$ln{n!}simeq ln{sqrt{2pi n}}+nln{n}-nln{e}$

這是正確的。右邊三項的階數分別為 $oleft( ln{n} ight)$ ， $oleft( nln{n} ight)$ ， $oleft( n ight)$ ，因此第一項屬於第二項和第三項的高階無窮小，被直接忽略，因此就得到：

$ln{n!}simeq nln{n}-n$

並沒有把n!當作(n/e)^n來近似，也沒有隨意忽略平方根。

======================分割線======================

回復BHEscaper

熵的定義不止一種：

1、首先是香農在資訊理論中提出的信息熵，定義為：負對數概率的期望。正文部分的推導就是證明這個定義和小球組合數漸進等價。推導顯示「信息熵」不過就是小球組合數的另一種壓縮的表示形式，而「小球組合數越多越複雜」則是一個非常容易理解的解釋。香農定義的熵之所以被廣泛應用，是因為它具有很多更加深刻的性質，可查閱Cover所著《資訊理論基礎》進一步理解。

2、物理上的熵。物理上的熵我參考了《費恩曼物理學講義》第一卷44章第4節和第6節的定義：

理想熱機在溫度 $T_1$ 吸收熱量 $Q_1$ ，在溫度 $T_2$ 放出熱量 $Q_2$ ,44.4節推導出有一個值一直不變： $S = frac{Q}{T}$ 這個值就被定義為熵。可以說熵的這個定義反映了物理學的一慣作風----給某種過程中不變的量起一個新的酷炫的名字。在44.6節，通過一些推導，這個熵又等價為： $S=Nkln{V}$ 。叢而可以看出，分子數越多、體積越大的系統的熵也越大。具體推導請查閱相關章節，大一數學知識。

這兩種熵之間是不同的，香農的熵強調的是概率的無序性，房間數給定了，小球總數也給定了，然後集中討論每個房間小球數各種分配方案中排列組合數的變化。然而費恩曼的熵也就是物理上的熵，與特殊的分布無關，強調整體上空間越大，小球越多，整個空間的熵(無序性)越大。

我來給一個通俗易懂的解釋，供探討。

我的理解正好相反，熵是一個均質化的過程。

雖然根據定義，熵是一個無序化的過程，但是無序化的終極狀態是均質化，所以歸根到底，熵就是一個從有序到均質化的過程。

為什麼？因為有序是有條件的，不管是人為的有序，還是自然生長出的有序，必須要滿足一定的排列規則。但是無序是無條件的，所有人為的東西，有序的東西，最終都會消亡。因為消亡是無條件的，消亡是徹底的均質化。

用幾個例子來說明：

信息的傳播是熵的過程。但是當傳播到極致，消滅了所有的信息不對稱，也就是所有人都獲得同樣的信息的時候，就是一種信息的均質化。

熱量的傳播是一個熵的過程。比如房間里有一個火爐，火爐是房間里溫度最高的物體，火爐把熱量傳播到整個房間，讓整個房間內其他物體的溫度逐步升高。但是火爐的高溫是有條件的，比如需要火爐中的煤進行燃燒，當煤燒完了，火爐的溫度只能逐步降低，直到整個房間內所有物體的溫度都達到同樣的均質化。均質化是無條件的。

天下萬物生於有，有生於無，最後還是會回歸無的狀態，無就是徹底的均質化。因為「有」是有條件的，而「無」是無條件的。

好，今天好好寫一下熵的這個意思！

我發現，很多人說，人活在世界上的意義是什麼呢？人為什麼活呢？

很多人也沒說得清楚。

還有人說要自律，喊自律，持續一段時間，然後就沒人喊了。

大家都不知道真正自律的意義所在。

就好像大家喊堅持一樣，不知道堅持是最難堅持的。

除非，你賦予堅持的事物擁有重大的意義。

自律，就是為了自己把一切無序的事物變成有序地工作，發揮高效的人生，與更多人協作產生更大的利他貢獻，反過來，獲取對自己更大的利益。

世界上，物理學上最高最牛一個字的概念：熵。

熵是什麼概念呢？

雖然有點複雜，但不妨我們理解它的意思。

物理意義是體系混亂程度的度量。

熵增定律，也就是指一切事物都是從有序趨向無序。

換句通俗的話講，就好像你的房間如果長時間不整理，會亂成一片。

而整理房間，需要的是時間與你的精力體力，也就是生命體把無序變成有序，需要消耗能量。

宇宙萬物，所有的一切物體都是從高能量到低能量傳遞的過程，也是一個分崩離析、冷寂的過程，這個過程不可逆的，只有不斷地往一個方向分散。

就像我們掉毛髮，出汗一樣，不斷地獲取能量，不斷地新陳代謝。

就像把一杯水倒入大海之後，就不可能再取回同一杯水了。

如果一個生命體不進食，不攝入水份，那麼機體會慢慢脫水，消耗完體內能量，趨向變弱，能量遞減，然後死亡，細胞會無序分解，消失。

因此，世界上所有動物都是為了不斷獲取更多的食物能量，為了維護完整的個體，建立的神經網路，衍生出各種慾望與疼痛，就是為了保護自身不受侵蝕，促進生命體生存與繁殖，保持機體代謝，不斷持續分化，直至老死。

正因為熵，在宇宙是無序無規則地分化，那麼，負熵的意義就是對立熵的作用，使物質系統有序化、組織化、複雜化狀態的一種量度。

任何生命是一種負熵為食，而存在的狀態。

也就是說，一切生命來到這個地球上，都是需要承擔宇宙規律給予生命的責任，就是為了讓一切無序變成有序。

這，就是生命的意義！

熵，就是一種無序的量

縱觀世界，從無序的荒野時代，到有序的連網時代，每一次技術的變革，都是從無序變成有序，從粗放到精細，從無數據的幸運到有數據的歸納，未來一切都是在於被掌握，才可以進步與發展，獲取更多的能量！

自律，就是為了更好地掌握自己的能量，獲取更多的能量的一種生存方式。

華人首富李嘉誠每天早上6點準時起床，運動，辦公。地產大亨王健林，生活安排都是盡最大的能力管理好自己的精力與能量，使用在最大價值的地方。

什麼是時間管理，時間是不可能被管理的，而是為了管理好自己的能量，僅此而已。

一切時間最美好的願望，就是把時間浪費在美好的事物上。

掌握自己，就是為了更好地自由，而不是被不可控因而讓你的時間與精力消耗與分解浪費，一切都生活在混亂當中。

自律的可控性，是多麼的重要啊！

假如，咱們生活不努力，放任自流，生活慢慢會趨向變得越來越更糟。

無論是精神上的空乏，還是時間上的流逝，物理世界本身就是無序無情地消耗你，人際關係不好，缺乏收入，家庭處理不如意，馬太效應會讓你的境況越來越糟糕。

當你該努力的年齡不努力，一旦老年後，再也沒有力氣折騰了，一無所獲，老淚縱橫，悔恨已晚，入土為安後，周圍人感覺像有你無你都一樣，他們好像也沒有感覺存在你這個人。

這時，你領悟存在的意義了么？

一切的生命，物質，都逃不出熵增定律，逃不掉無序地規律。但不影響我們能夠更好管理自己，把自己的生命像陽光一樣，照射到更多的人。

你可能會問，為什麼優秀的人，他們這麼自律，「折騰自己」「想這麼多」不累嗎？

你再問問打遊戲的小夥子，每天打遊戲不累嗎？

如果喜歡跑步，儘管跑步的時候有些疲憊，但是跑完之後感受到的舒爽會讓他們愛上跑步。

持續學習，讓自己得到相應的快感，並且激發他自行思考的慾望，然後，只要你真的感受過這種練習思考的快樂，就不會覺得這是一種痛苦了！

李笑來經常說過，成為第一名會上癮的！

自律通向體面，體面通往自由，讓你變成優秀，優秀變成了習慣。

人人都說的自律，那怎麼發展自己呢？

那回到剛才熵的話題，對抗熵增加也就意味著人要讓自身變得有序，怎麼辦？

從環境中汲取秩序。

第一步是，從低級的汲取秩序，提供價值給別人協作，你除了滿足自身的存活，可以從周圍獲取食物，搞定了生理需求。

第二步，那此時的你步入高級的汲取秩序，增加自身的技能，長見識，在跟他人和社會的交往給予他人價值中獲益，馬斯洛的各種高級需求滿足後，然後能夠把自己的能量，散發傳遞到親人，朋友，團隊各個層級的人，你開始收穫存在感了！

第三步，當越來越多人收到你的價值，那麼此時的你，已經是千千萬萬個，一切都是你，你是一切，你已無處不在！然而，這是一種自我實現！

總之，心靈者華主認為，當一切超越了生命的意義的時候，這就是你存在的意義！

人，活的意義，也是莫過在於此。

以上全部都是心靈者華主所思所想，若你也是一類人，邀請到心靈者公眾號做客，一起喝喝茶，我把一切告訴你！哈哈哈！

憑我學過這麼多熱力學的知識，我覺得熵是個很有意思的東西，

說它是「複雜度」或是「熊孩子把你家的兩盒圍棋子全混起來時那個想殺人的勁」還遠遠不能描述它的精髓的。

首先來做個違背能量守恆定律的實驗。有一個水槽，中間有一塊隔板。一邊盛有清水，一邊盛有鹽水。兩邊水位一樣高。

現在我們把隔板抽掉，任由兩邊的水自由混合。現在兩邊都成了淡淡的鹽水。也就是說有一半鹽從一邊運動到了另一邊。鹽的運動需要克服阻力，因此需要能量。可是這個能量從哪來的？溫度沒有變化，水位沒有變化，鹽也不會發生化學反應。是能量守恆被打破了嗎？

唯一的變化是系統的熵增加了，也就是原來困在水槽的半邊的鹽現在布滿了整個水槽。整個系統變得更均勻了。這就跟被熊孩子混在一起的兩盒圍棋子一樣。

想想為什麼熵明明是指一個系統的狀態，卻會被加以能量的單位(J/mol-K)？熵也可以看作是一種能量的指標，是一種「負能量」。在系統的束縛被解開後，能量就會降低，體現為熵的增加。所以在鹽水池的例子里，提供鹽的運動的能量的其實是熵增加釋放的能量。化學上有個詞叫「化學勢」，其實就跟勢能一樣描述被存儲的能量。只不過勢能被存儲在高度里，而化學勢被存儲在濃度里。

整個世界的熵是在增加的，也就是說物質是趨向於均勻地混合的。當你想要減少熵就要付出能量去對抗它的負能量。就像熊孩子只要花一分鐘去混合圍棋的棋子，你卻要花半個小時才能再把它們分開。

/*****2014-06-07 補充*******/

評論里有人指出我的概念有錯誤。我回答這個只是為科普，沒有那麼嚴格地去遵循定義。

水池的例子當然也有個錯誤，就是鹽在遷移的過程中並沒有做功克服阻力，也沒有能量的釋放。這是一個僅有熵增加的過程。從一種角度理解，化學勢跟熵也是很有聯繫的。（不考慮活度變化，化學勢和濃度有關係，其實描述的也是物質聚集在一起的程度）但是當鹽分散開來的時候化學勢其實是降低了。以上這個例子表明，熵的增加就是這樣的自發的過程，沒有能量在推動。在我這樣的凡人眼裡，彷彿就是一種能量在推動系統這樣走一樣。

熵和能量不一樣，但是有密切聯繫。維基百科裡有個很好的描述：

...Entropy is a measure of the energy in a system that cannot be used to do work
熵描述的是系統里無法用來做功的能量

這裡其實是經典熱力學的描述，是從宏觀角度看到的。汽車一開動，引擎一定會發熱，因為汽油燒出來的熱能無法完全轉化為動能。

微觀角度來講，熵是一個封閉系統里從不均勻到均勻的一個過程。也就是說，系統趨向於從不均勻變到均勻，而一般來說不會反著走。比如鹽水的例子，鹽其實是被水分子推著到處走。那有沒有可能在某一個時候，所有的鹽又恰巧全部聚集到水槽的一半？有！但是這個概率微乎其微，恐怕連上帝一輩子都見不到了。

換個例子，就是：某個彩票的理論中獎概率為1%，但是每個人的購買的次數都是有限的，因此統計下來個人平均的概率不一定準確等於1%。那麼，你有沒有可能一直買，會出現平均中獎率99%的情況？

抱歉好像越扯越遠。熵的意義實在太豐富了。

如果要儘可能簡單的回答什麼是熵，那就是一個系統的混亂程度

任何比環境溫度高的物體，都會把熱量向低溫環境散發，直到系統內溫度平衡。如果沒有外界能流的引入，絕不會出現熱量重新富集的反向過程。所以，所有的恆星終將熄滅，宇宙中不再有能量的流動，因而不可避免地走向無序。

可以看看傑里米·里夫金，美國華盛頓特區的經濟趨勢基金會總裁的書——《熵，一種新的世界觀》，他還有一本新書，很不錯——《第三次工業革命》，探討分散式能源問題。

熵簡單說來就是：

花瓶打碎不能復原。

老鼠屎進鍋不能全身而退。

熵就是混亂度。

假設一個房間內剛開始一半邊充滿氮氣，另一半邊充滿一氧化碳，可想而止隨著時間的推移氣體會自行混合，最後保持一個整個房間都均勻分布兩種氣體的狀態。

這時房間內氣體的混亂度（熵）就比剛開始高，即自然界的發展是朝著熵增的方向。

評論中羅凱東說得很好：請問當物質處於整齊排列狀態時，與物體混亂排布時，是否其本質是一樣的，我總覺得整齊排列也是所有混亂中的一種罷了，並不獨立特殊。

確實如此，真的有混亂度這種物理量嗎？在我看來都是概率論。「其實這些排列本質上都是一樣的，但是為什麼我們見到的是他們混亂排列呢？讓我們用概率來解決這個問題：兩個紅球（紅1紅2），兩個綠球（綠1綠2）兩兩裝在不同的袋子里，會出現幾種情況：【紅1紅2】【綠1綠2】，【綠1綠2】【紅1紅2】，【紅綠】【綠紅】*4，共6種。可以看到袋子中球顏色相同的情況只有2種，而球顏色不同的情況則有4種，我們認為顏色相同時是整齊排列，出現整齊排列的概率是1/3，出現混亂排列的概率是2/3。上述是一個很簡單的只有四個小球的系統，就可以得到混亂排列的概率大與整齊排列了，當我們把小球的數目增加到日常級別，一個房間里的氣體分子有億億萬，這時出現整齊排列的概率就只有億億萬分之一了，數據我是估計的，不準確，但是概率確實是極小的，幾乎不可能出現。所以你的思路很正確，其實沒有整齊或著混亂之分，一切都是隨機，只是那種一邊全是氮氣，一邊全是一氧化碳的情況出現的概率太小了，而均勻分布的概率又太接近1了，所以可以認為均勻分布是必然發生的。」

中國足球1:9慘敗於巴西隊。

聽了這條信息你心如止水。

中國足球9:1大勝巴西隊。

聽了這條信息你幾乎暈倒。

為何？

因為同樣的信息，和現有認知差距越大，信息量越大。

什麼是熵？

熵是信息的負值。

萬物的本質都是信息，

一條信息，從絕無僅有，到非常罕見，到逐漸普及，到最後到爛大街，就是個信息量逐漸減少（稀釋），熵逐漸增大的過程。

你可以把量子力學慢慢普及到老百姓中間，但沒法把已經普及的信息強迫人們再忘掉，熵是不可逆的。

你雖然不能強迫人們忘掉已經學會的量子力學，但你可以再發明一個新的統計力學讓他們再次無知。這叫引入外部信息實現熵減。

只要這個循環一直持續下去，人類文明就會持續發展。

你房間的東西總是有亂的趨勢，你要做功才能讓他們變得整齊。

深夜看到這個問題，蠻想試一試能不能講清楚。

已經一周過去了，我一個字沒寫，真是一個憂傷的故事。

好，現在開始進入正題，在正題之前我還要再插兩句。我今年大一，寫錯了別賴我，我還沒上過物化課，說錯了評論就好了，別打我，我發現我個人信息寫得挺全的（誰理你啊~別自作多情了）。

誰知道分割線怎麼添加，這句話就算是分割線了好吧

最近對於熵的看法的變化來自於我剛在看的一本《物理化學講義》。

$S=kln { W }$
這就是著名的波爾茲曼方程。對數前面的係數，叫做波爾茲曼常數，這個常數是自然科學的幾個基本常數之一。它把宏觀科學與微觀科學聯繫了起來。
這個定義告訴我們，從分子角度看，熵是一個宏觀狀態的微觀結構數的另一種數學描述。數學上，對數函數是一個單調增加函數，所以，熵和權重的增加與減少是同方向的。這些事實告訴我們，熵和權重具有物理化學意義上的同質性。

黑體字我認為是對於熵的理解的一個關鍵。

這個是維基上的二項分布的圖片。二項分布我記得是高中時候學的，大家應該都還能有點印象吧（這話說的真是底氣不足啊）。大家借著這個圖找找感覺。

對於這個分布在熵計算中的應用，我們考慮一個很簡單的合金模型。把一個AB合金分成上下兩部分，有多少A原子分布在上半部分或者下半部分的概率就遵循這個二項分布的模型。而當原子數比較多的時候，這個圖像看上去就是一個尖尖的峰，也就是說A原子一半在上，一半在下，或者說 $0.5Npm epsilon$ 在上半部分的時候（ $epsilon ll 0.5N$ ）佔據了絕大部分的可能性，也就是這種狀態的權重。（權重和概率雖然不是等同意義的，但是如果只是想了解的話，這麼認為一下，應該也不太有所謂）。

再來看一個我們比較常用熵來解釋的問題：氣體A，氣體B被放在一個容器里，先是用隔板分開，然後撤走隔板過了一段時間後，我們的常識告訴我們，這個時候氣體應該是混勻的，也就是說，在左半部分有一半A分子，一半B分子（先假設A和B的分子數一樣多吧，或者說A 分子的一半和B 分子的一半），我們常常認為，這個過程是熵驅動的，而從另一個角度考慮，如果過了足夠長的時間，則每一種微觀狀態是等概率的（微觀狀態，不太理解的觀眾可以想像一下這個，王一狗、王二狗、陳大花、陳二花，兩男兩女，有兩個屋子，在你計算有一男一女在A屋子的時候，王一狗+陳大花、王二狗+陳大花，這兩個雖然都是一男一女，但是是不同的微觀狀態），這樣左邊有一半A分子，右邊有一半B 分子的微觀狀態的分布就和那個二項分布看起來差不多了，這樣是不是就可以很輕鬆的想到一定是均分的概率最大了呢？而概率最大的原因是不是就是因為它的權重最大呢？而按照我們慣常的理解是熵增，是不是就是說權重和熵其實是一類的概念呢？是不是我們就可以把熵和權重理解到一塊了呢？

反正我覺得可以。

進一步地，因為熵與權重是同質的，熵的物理化學意義並不抽象。從權重考慮。熵是一個「宏觀狀態的多樣性」，這是從分子層面對熵的準確解讀。

基本上就是這個樣子了吧，有表述不清楚不妥當的地方，歡迎指正（你這麼不正經一個人發這麼嚴肅的聲明是要鬧哪樣啊喂）。

我猜我會更新它的，畢竟感覺有的地方寫的不是很合適，只是為了讓我自己不再拖下去才會在今天把它趕出來，發出來的。

以上。

當混亂度的標度就好了。要求「什麼什麼知識背景能接受」，本質來說就是並不需要真的懂。