如何向一個沒學過大學物理的人解釋玻爾茲曼熵？

01-21

假設對方完全不知道熱力學
＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝
問題補充：看到好多知友大物不學熱力學，然而為什麼我們學校是要學的玻爾茲曼熵那一段完全沒理解，所以不要嫌棄本渣，口下留情，謝謝。

（其實類似的題我以前答過，不過這裡說清楚一點好了）

我覺得@Minglei Xiao 同學好像說反了一點，熵函數並不是信息量，熵越大應該表示信息量越小。這個質疑暫且存疑吧。

另外，用「這個量應該滿足怎樣的運算規律」從而得到這個量表達式，雖然也算是物理學裡重要的思路，但總是顯得像在湊。

更物理一點點（並沒有太多），我們常常說「熵表示混亂度大小」，但是什麼是「混亂度大小」？從信息的角度理解，其實就是@Minglei Xiao 同學所說的「有 N 種買法」。再打個比方，殺人兇手只有一個，嫌疑犯有多少？——嫌疑犯越多，我們掌握的關於兇手的信息越少，這個案件對於我們來說就越複雜，物理的語言就是「混亂」，如果最後把「嫌疑」犯縮小到一個了，兇手也一定有且只有一個的話，那麼就百分之百是這個人了。

而信息本身是需要物質去承載的，比如「N 個嫌疑犯」，「N 種買法的彩票」，或者——N 個比特。

對於 N 個比特的系統，如果每個比特有 M 個狀態，那麼整個系統就有 $M^N$ 個狀態，可見狀態數與比特數是正相關的。

我們剛剛說了，混亂度越大的意思，從信息的角度理解就是可能的狀態數越多，因此這兩個量也應該正相關。

三個量都是正相關的，我們想用其他兩個量來表示熵，最方便的就是使其正比於比特數，因為比特數是可直接加上去的，比特數直接表徵了系統的大小，比較方便。但因為要表示狀態量，所以肯定要與 M 和 N 都相關，也就是 $M^N$ 相關，又跟 N 正比，最方便的就是取對數，然後定義熵。

所以這樣，熵即表示了系統可能狀態數（也就是混亂度），從信息的角度，也更直接告訴你這個系統的比特數有多少。

我老闆當年 PhD 的時候，班上沒幾個人，但是他們上統計課是在一個很大的階梯教室上的。

（圖片來自中歐15周年校慶專頁）

階梯教室嘛，前排每行座位少，後排每行座位多。

&>&>&>&>&>&>&>&>&>&>&>&>&>&>&> 以上背景 &>&>&>&>&>&>&>&>&>&>&>&>&>&>&>

不幸的是，教課的老師是個俄羅斯人，英語不好，不僅口音重，而且聽力也不好。所以大家不太喜歡坐在前排。

於是出現的場景是大家都零零散散隨機坐，並不是那種很有趣的課上出現的所有學生都擠在前排的情況。由於教室很大，顯得前排人很少。

俄羅斯老師不開心了，說：You guys should move to the front. Physical systems usually tend to stay in ground state.

然後我老闆就在後面喊了一句：Well, we are thinking about the entropy.

然後大家大笑。

&>&>&>&>&>&>&>&>&>&>&>&>&>&>&>&>&>&>&>&>&>&>&>&>&>

俄羅斯老師的意思是說，因為階梯教室前面的勢能低，所以大家應該跑到勢能低的地方坐著，這樣整個系統的能量低，穩定。

我老闆的意思是說，因為系統處在什麼狀態不僅僅是能量說了算，還跟這個系統有多少個可能的「座位」有關。所以雖然前排能量低，但是前排的座位太少的情況下，所以整個體系所處的狀態主要是熵說了算了，也就是說人隨機坐之後，由於後排可能的狀態多，所以後排的人就多了。

這是熵的一個比較淺顯的意義吧：熵會影響系統裡面的「基本元素」往一些「座位」上的形式。

這不是一個全面的熵的含義，只是一個比較有趣的故事。

你去買一種彩票。

有 N 種買法，只有1種中大獎。

這個時候一個人告訴你，他是從未來穿越過來的，告訴你中獎號碼。

他告訴了你多少信息？

一個最直接的想法是，N 越大，這裡面信息越多。假設這個信息量是函數 $S(N)$ 。

再假設，你要去買另一種彩票，有 M 種買法。你問那個穿越者，那個彩票的中獎號碼是多少呢？

他又告訴了你。

這裡面信息量是多少？顯然是 $S(M)$ 。

現在我問你，他總共告訴了你多少信息？

答： $S(M)+S(N)$ 。

好，我們從頭來看，買兩個彩票總共有多少種買法呢？ $M*N$ 。

說明他告訴你的信息還可以這樣計算： $S(M*N)$ 。

所以你知道，信息量有這樣的性質：

$S(M)+S(N)=S(M*N)$

滿足這個條件的函數是 $S(N)=kln N$ ，對任意的常數 k 。

這就是玻爾茲曼熵。

————————————分割線——————————————

針對幾個典型的質疑統一回答一下

1. 這是信息量，和熵是相反的概念；

2. 這個熵看起來跟熱力學毫無關係啊。

回答1：是的，上面給出的函數 $S(N)$ 是使得有 N 種可能性的情況變成確定的情況所使用的信息量。也就是說，在穿越者告訴我中獎彩票之前， $S(N)$ 是我距離確切地知道系統所有細節（即哪個號碼中獎）所缺失的信息量，這個稱為熵。即如果沒人告訴我哪個號碼中獎，這個有 N 種可能性的系統的熵為 $S(N)$ 。

回答2：玻爾茲曼熵按定義並不來自於熱力學的細節，所以我在定義它的時候完全不必管熱力學。舉個栗子，我們知道一團氣體有溫度 T 、體積 V 和粒子數 n，這三個量是態的宏觀描述，這樣一個宏觀態對應於許許多多微觀態，其數目 N 就和該宏觀態（熱力學態）的熵 S 有關係 $S=kln N$ 。至於溫度 T 、體積 V 和粒子數 n 究竟對應多少個微觀態 N=?，才是一個物理問題；把 N 的某個函數叫做熵完全是為了某種方便的數學定義。

當然，這種定義與熱力學熵的定義是怎樣聯繫起來的，才是一個真正有趣的物理問題。然而我看到題目時，並不覺得那樣回答是切題的。如果看官一定要從中找到熟悉的熱力學定律，不妨跟我一起繼續開腦洞：

——————————————腦洞線——————————————

你在穿越者的幫助下，賺了很多錢。但你仍不滿足，想用這些錢繼續買彩票。記住：這次你的目的是中獎，而不是賺錢，所以有時是要做虧本生意的。

假設你願意拿出來買彩票的錢的總量是 E。如果你只買第一種有 N 種買法的彩票，你能買的彩票數 n 是你投入的錢數 e 的函數 $n(e)$ ，這是個單調增函數。（為什麼不是簡單的線性函數呢？現實中也許只能做到 $n=e/e_0$ ，其中 $e_0$ 是彩票單價。但是我們不妨直接擴展到任意情況，假設彩票公司可以讓你買的彩票越多使用的單價越高或越低，以滿足它不可告人的目的。）

我們還用之前的方法分析一下，雖然會略顯累贅。你買了 n 張彩票後，穿越者又灰過來告訴你中獎號碼了。如果他告訴你一個具體的號碼，那麼信息量顯然是 $S(N)$ 。但假設他分兩步告訴你，先告訴你你中獎了，再告訴你中獎的號碼是多少。第二步的信息量顯然是 $S(n)$ ，所以第一步的信息量是 $S(N)-S(n)$ ，這是告訴你你中獎了所需要的信息量。

這個信息量意味著什麼？我們取兩個極限來理解。如果 n=N，那麼該信息量是0，對應的是「廢話，不用你說我也知道我中獎了，因為我把所有可能性都買了（為的是中獎而不是賺錢！）」。如果 n=1，那麼該信息量是 $S(N)$ ，因為 $S(1)=0$ ，對應的是最開始的情形，即「告訴我中獎了和告訴我哪個號碼中獎是一回事，以為我只買了一張」。

那麼你買彩票的策略是什麼呢？是讓這個「告訴你中獎了」的信息量盡量小，這意味著你中獎的確定性越大。所以為了讓 $S(N)-S(n)$ 盡量小，你要買盡量多的彩票使得 n 盡量接近於 N。呵呵，這是一句廢話，誰都知道想要中獎就盡量多買一些彩票。

數學和物理的分析往往都是這樣，我們從最平凡的例子裡面找靈感，這些例子也許是一些廢話，但它能擴展到不平凡的情況。

現在我們買兩種彩票，分別有買法 N 和 M，而且買的彩票數和投入的錢數的關係是不同函數 $n(e)$ 和 $m(e)$ 。你只有這麼多錢 E，怎麼買才能使你同時中兩個獎的概率最大呢？

一下子摸不著頭腦吧？這就對了。我們來用上面的「廢話」來分析一下。直接使用結論，為了使你更可能同時中兩個獎，你需要「告訴你同時中了兩個獎」的信息量盡量小，即 $S(N)-S(n)+S(M)-S(m)$ 盡量小，或者 $S(n)+S(m)$ 盡量大。由於你的總投資是 E，所以你只能買 $n(e)$ 張第一種彩票和 $m(E-e)$ 張第二種彩票。所以問題變成了，你要找到一個 e 使得 $S(n(e))+S(m(E-e))$ 最大。

不就是求極值嘛，求個導唄。先定義 $S(n(e))=S_1(e), S(m(e))=S_2(e)$ ，那麼極值條件就是 $S_1$ 。這裡注意 $partial S_2(E-e)/partial e = - S$ 里的負號。

翻譯一下就是，當第一種彩票的熵對投資額的敏感度與第二種彩票的熵對投資額的敏感度相同時，最可能同時中兩個獎。

我們取一個容易算的例子檢查一下這個結論。假設兩種彩票都使用普通的恆定單價的銷售方法，即 $n(e)=e/e_1$ ， $m(e)=e/e_2$ ，其中 $e_{1,2}$ 是它們的單價。則 $S$ ， $S$ 。它們相等的條件是 $e=E-e$ ，即 $e=E/2$ ，兩邊做等量的投資，無論單價如何，無論 N 和 M 是多少！

我們來用普通的方法算一下概率吧。中獎的概率其實很好算，分別是 $n/N$ 和 $m/M$ ，所以同時中獎的概率是 $frac{n(e)m(E-e)}{NM}=frac{e(E-e)}{e_1Ne_2M}$ ，當 $e=E/2$ 時取極大值。

講了那麼多彩票，這套方法到底對應了什麼物理呢？

E 是總能量，兩種彩票是兩個可互相傳熱的系統，最可能中獎的情況對應的是熱平衡，而 $S$ 和 $S$ 分別是兩個系統的溫度的倒數。講了這麼多，我們推出的是熱力學第零定律，熱平衡的系統溫度相同。

為什麼把熵對能量的導數定義為溫度的倒數呢？因為熱力學第一定律 $dE=TdS$ 。

而這個定律中的 $S$ 是熱力學熵。

也就是說，如果我們定義了玻爾茲曼熵 $S=kln N$ ，並且把它當做熱力學熵來定義一個溫度，這樣定義出來的溫度同樣滿足熱力學第零定律。所以這兩種熵的定義是等價的。

（推導過程用到了熵最大原理，因為這是能量守恆的封閉系統所以沒有問題。彩票的例子中該原理替換為「盡量要同時中兩種彩票」。物理上源於統計力學基本假設。）

玻爾茲曼熵最直接的含義就是可分辨狀態的數量

拿「你的朋友」作為例子，你人情通達交遊廣闊，一天，你突然發現你的朋友中有很多種類型的人，那麼「你的朋友」這個宏觀態的玻爾茲曼熵就比較高。但是如果你太喜歡只和志趣相投的人相處，結果發現自己的朋友們其實基本都共享著單一的習慣和愛好，那「你的朋友」就只有相對比較低的玻爾茲曼熵了。

當然我們還不能說熵就是可分辨狀態數量，為什麼我們要說「微觀態」？為什麼還要取對數和乘上玻爾茲曼常數k？這就是另一個問題了。

樓上各位提到熵與隨機性和無序性的聯繫在這裡沒有必要進行解釋，這隻會把本來清楚的事情弄糊塗

這列一下提綱，具體內容等我有時間再補（也就是說已坑勿念

1. 因為各向同性，所以理想氣體的分布是正態的

2. 根據熱平衡或者直接拿溫度定義說明溫度代表該分布的

3. 使用一些初級的[劃掉]泛函[/劃掉] 通過最小作用量定義相對熵。然後直接拿相對熵做信息熵（或者需要調整零點

4. 我們發現這個信息熵就是玻爾茲曼桑

於是根本沒有任何[劃掉]熱力學[/劃掉]特技

不能因為我名字叫這個就邀請我啊喂。╭(°A°`)╮

————————————————

好吧，這樣回答太不負責任了。之前只有關於玻爾茲曼熵的一丟丟了解。我就厚著臉皮，胡扯吧，如果有說的不對的地方，希望你們來打我呀！

以下胡扯。

玻爾茲曼熵有個很簡單的公式（真的簡，簡出聲），但是巧妙地把微觀態熵和宏觀態相結合了，中間就用了一個對數關係和一個係數。公式我就不列了，好多人看到我以上這段話就已經煩了。那我舉個例子。

早上市第一中學做早操，一共來了10的24次方的班級（我就想說有這麼多，你管我？）。大家整整齊齊地碼在超大的操場上，過了一會操做完了，可以自由活動了。

三年2班有幾個學生決定跑去小賣部，幾個學生決定回宿舍，幾個學生打算去餐廳吃飯，幾個學生決定背著包回教室自習。他們沒有交流，但是決定好的事就會去做。於是，操場上的學生都散了。

校長看到一片雜亂無章的樣子，心裡想，學生每天早操之後都會幹嘛呢？他們生活作息的規律是咋樣的呢？班級有這麼多，一個一個親自調查似乎不太可能。那。。。

在這危急關頭，三年2班的王小萌同學作為班長，為了向組織證明自己的黨性，義不容辭地接受了這個調查任務。

他發現班級里的同學早操之後去的地方是基本上確定的（廢話就這麼點地方可以浪）。而每個地方去的自己班的人的人數，統計出來的結果也似乎有某種規律性。

一連幾個早上小萌同學就一直趴在校園各個角落的草叢裡觀察同學們的動向。嗯，小賣部班級里一般有個5個人在裡面買垃圾食品。餐廳13個人在打飯吃飯倒飯，小樹林里團支書經常和體育委員在打啵（咦！！？）。。

儘管無法接受小樹林里自己眼前畫面，但總得來說班裡的同學在校園各個角落出現的頻率都是有規律的，猜的基本八九不離十。直到有一天遇到3年1班的班長兼班花。。。

王小萌不會放過這次搭訕的機會，於是走過去以交流工作的名義了解了一下3年1班同學們出現在各角落的頻率。

不問不知道，一問嚇一尿。原來別的班級也有這樣類似的狀況。再問幾個班♂長發現情況都很近似。

為了證明自己的黨性還闊以，小萌同漬決定向校長回報。

於是校長整理了一下發現不管學校怎麼散，但是具體到一個班級里都是有據可循的。學校為此決定不追究王小萌和團支書的問題。

回到玻爾茲曼熵，是不是就能理解辣。然後我再放這個公式

S=k×lnW

微觀態和宏觀態是不是一下子就明白了呢？

如果要是還有點不明白，那麼可能就是你太蠢了吧，啦啦啦打我。

怎麼能在我背後討論我呢？而且還要拉我過來解釋我自己。難道你們不知道「我」解釋「我」是多麼痛苦的事嗎？幾千年來，無數哲學家到死都沒弄清楚的話題，讓我來破。

好，我承認，以上都是廢話。而，下面，可能也是廢話。

既然要讓沒學過大學物理的人能聽懂，恐怕我就不能從物理的角度來解釋了。這樣吧，我嘗試來點新鮮的

所謂熵，就是隨機性、不確定性、無序性的一種度量。以作家群體為例來說(這個例子沒人舉過，不由覺得自己好有想法 )。假如你是一個好的作家，一個真正的自由主義者，你會聽號令寫作嗎？恐怕不會。那麼你寫出來的恐怕也不可能是千篇一律的歌德風。假使沒有任何外在的影響，作家群體中都是這樣的自由作家，那麼他們寫出來的作品一定是豐富多彩的。反之，如果有一個老大哥在指揮著這些作家，要求他們按一個既定的模式來寫作，那我們看到的是什麼呢？必然是千篇一律的、乏味的一堆東西。

現在可以點題了。不受外界干擾時，作家群體的創作可以認為是隨機的、無序的，用熵來表達的話，就是熵比較大；受外界干擾時，作家群體的創作可以認為是既定的、有序的，用熵來表達的話，就是熵比較小。

現在，把作家群體換成物理學中的熱力學系統，把作家換成分子，把作家的創作換成分子的運動，那意思是不是很明白了：不受外力作用的孤立系統，分子的運動將趨於無序，熵變大；而當有外力做功時，分子的運動會變得有序，熵變小。

逝者如斯夫，不舍晝夜。

先說一說熵的熱力學定義。

首先還是要從卡諾循環說起：

(https://en.wikipedia.org/wiki/File:Carnot_cycle_p-V_diagram.svg)

首先在p-V圖中，1-&>2 以及 3-&>4 是等溫可逆過程(reversible isothermal)，2-&>3 以及 4-&>1 是絕熱可逆過程(reversible adiabatic)，對等溫過程進行分析：

$T$ 是常數，有

( $i$ 為始態， $f$ 為終態) 所以：

( $h$ 為在高溫時， $c$ 為在低溫時) 兩式相除，得：

又由於2-&>3 以及 4-&>1 是絕熱可逆過程，所以有：

可得：

帶入式(1)中可得：

所以我們知道了：

然而對於任意可逆循環都可以表示成無限個無窮小的等溫可逆過程和無限個無窮小的絕熱可逆過程：

(http://www.angelfire.com/ultra/omshome/entropy.htm)

所以

於是得到了熵的熱力學定義：

（重點是以下部分）

根據熵的玻爾茲曼統計學定義：

式中 $W$ 為宏觀狀態中所包含的微觀狀態數量，是一種微觀特性，也可以理解為一個系統混亂程度的度量。

這裡用Joule expansion為例，假設存在兩個由閥門連接的體積為 $V_{0}$ 的與環境不發生熱交換(thermally isolated)的容器，左側的容器中充滿 $1mol$ 溫度為 $T_{i}$ ，壓強為 $p_{i}$ 理想氣體，右側的容器為真空，這時將閥門打開，左側的氣體絕熱自由膨脹(adiabatic free expansion)至兩個容器：

(Concepts in Thermal Physics, Stephen Blundell, Katherine M. Blundell)

對於這 $1mol$ 理想氣體中的每一個分子，在膨脹之前有且僅有1種分布方式（位於左側的容器內），膨脹之後就有2種分布方式（左側容器內或右側容器內），整體而言 $1mol$ ( $N_{A}$ 個)理想氣體就有 $2$ ^ $N_{A}$ 種分布方式，所以膨脹之後對於這 $1mol$ 理想氣體的微觀狀態就乘上了係數 $2$ ^ $N_{A}$ ，計算膨脹過程的熵變：

如果從熱力學角度出發計算熵變，因為熵是狀態函數，與路徑無關，所以絕熱自由膨脹的熵變與等溫可逆膨脹的熵變相等，於是：

與上面的計算結果相符。

當然這樣的過程有許多前提假設，而且是理想狀態下發生的，實際情況下的微觀狀態也不可能僅僅只有像在左側容器或者右側容器有兩種位置這麼簡單，而且還要考慮分子的能級狀態等。所以我們在日常生活中進行對熵的測量時往往是通過熱力學間接手段如測量 $C_{p}$ / $T$ 等方法，熵的統計學定義往往只用來表述熵與 $ln$ $W$ 的關係，熵的非負性（ $W$ 為自然數），以及熱力學第三定律中晶態物質絕對零度下 $W$ 為 $1$ ，熵為 $0$ 的性質。同時我們也可以知道如果確定了一個系統的熵，就確定了此刻的微觀狀態數。而且，研究熱力學時重點並不是放在一個系統的混亂程度，而是放在一個系統的非混亂程度，即系統對外做功能力上，畢竟大家要將知識運用到生產生活中去嘛。

（自己的一點見解，如有不妥望高人指教）

個人理解

玻爾茲曼熵公式是宏觀物理量熵和微觀粒子狀態數之間的關聯

想解釋清楚，應該從三個方面來解釋：

1.熵：描述系統無序度的量，簡單理解就是某個由很多人組成的某班，位置的越亂，熵值越大（譬如下課，譬如放學），每個人的自由度都很大，你可以上天也可以遁地，還可以離開學校回家。熵值小譬如班主任訓話，每個人只能在自己的位置動一動，但從班主任眼裡，每個人都並沒有自由度。

2.熱力統計學

那我們如果要描述這個班，我們怎麼描述呢？一種方式當然是最精確，也是最笨的，我給每個人裝上宇宙最精確的定位系統，那麼所有人的軌跡我就能完全了解。這能完全表示一個班的狀態了。當然這個是建立在班級人少，譬如20個的時候，當班級人數在10^20（1後面20個零）時，這個方法就完全沒法用了，因為窮盡我們畢生心血，也做不到，但很可惜10^20個原子或分子在物質研究領域太常見了（我會告訴你一滴水裡就大概有這麼多嗎？）那我們怎麼研究呢？萬能的統計學登場啦，統計學告訴我們，在某一個特定的熱力學狀態下，（通俗點講，就是確定了我們研究哪個班（研究對象），確定研究對象的所處時節（溫度），確定研究對象所處環境（壓強））雖然我們沒法了解所有同學的活動軌跡，但這個狀態下，所有同學所處的狀態是有績可循的，例如下課時分，廁所總會有一部分同學，飲水機旁總會有一部分同學。那我們如果把這種狀態記錄下來，是不是也能描述一個班呢？

3.狀態數

先補這些有空再補

可能的狀態數。【微觀】

就是混亂度。。

大晚上的，趕快洗洗睡吧。

想起一句話：「學了熵傷心，學了焓寒心。」

沒有幫助摺疊我吧。

說的好像我這學過大學物理的人就能懂似的

不，應該說，這和學不學大學物理幾乎沒有什麼關係

玻爾茲曼熵的概念來自於統計熱力學，聯繫了宏觀和微觀。事實上，熵代表混亂的說法是不完全正確的。什麼是混亂？沒有人給出了明確的定義，難道我們能夠一下子說出一個體系究竟有多混亂嗎？不妨認為，熵代表多樣性，一個系統多樣性越大，熵越大。熵代表了可能性！

分頁阅读： 1 2 3