麥克斯韋妖

當時麥克斯韋意識到自然界存在著與熵增加相拮抗的能量控制機制。但他無法清晰地說明這種機制。他只能詼諧地假定一種“妖”，能夠按照某種秩序和規則把作隨機熱運動的微粒分配到一定的相格里。麥克斯韋妖是耗散結構的一個雛形。

可以簡單的這樣描述，一個絕熱容器被分成相等的兩格，中間是由“妖”控制的一扇小“門”，容器中的空氣分子作無規則熱運動時會向門上撞擊，“門”可以選擇性的將速度較快的分子放入一格，而較慢的分子放入另一格，這樣，其中的一格就會比另外一格溫度高，可以利用此溫差，驅動熱機做功。這是第二類永動機的一個範例。

在1981年，Bennett的論文表明，麥克斯韋妖控制“門”使分子從一格進入另一格中的耗散過程，並不是發生在衡量過程中，而是發生在妖的對上個分子判斷“記憶”的去除過程，且這個過程是邏輯不可逆的。

在熱力學第一定律問世后，人們認識到能量是不能被憑空製造出來的，於是有人提出，設計一類裝置，從海洋、大氣乃至宇宙中吸取熱能，並將這些熱能作為驅動永動機轉動和功輸出的源頭，這就是第二類永動機。

歷史上首個成型的第二類永動機裝置是1881年美國人約翰·嘎姆吉為美國海軍設計的零發動機，這一裝置利用海水的熱量將液氨汽化，推動機械運轉。但是這一裝置無法持續運轉，因為汽化后的液氨在沒有低溫熱源存在的條件下無法重新液化，因而不能完成循環。

19世紀20年代法國工程師尼古拉·卡諾設計了一種工作於兩個熱源之間的理想熱機——卡諾熱機，即經典的“卡諾循環”。卡諾熱機從理論上證明了熱機的工作效率與兩個熱源的溫差相關。德國人魯道夫·克勞修斯和英國人開爾文在研究了卡諾循環和熱力學第一定律后，提出了熱力學第二定律。這一定律指出：不可能從單一熱源吸取熱量，使之完全變為有用功而不產生其他影響。熱力學第二定律的提出宣判了第二類永動機的死刑，而這一定律的表述方式之一就是：第二類永動機不可能實現。

在資訊理論中，熵（英語：entropy）是接收的每條消息中包含的信息的平均量，又被稱為 信息熵、信源熵、平均自信息量。這裡，“消息”代表來自分佈或數據流中的事件、樣本或特徵。（熵最好理解為不確定性的量度而不是確定性的量度，因為越隨機的信源的熵越大。）來自信源的另一個特徵是樣本的概率分佈。這裡的想法是，比較不可能發生的事情，當它發生了，會提供更多的信息。由於一些其他的原因，把信息（熵）定義為概率分佈的對數的相反數是有道理的。事件的概率分佈和每個事件的信息量構成了一個隨機變數，這個隨機變數的均值（即期望）就是這個分佈產生的信息量的平均值（即熵）。熵的單位通常為比特，但也用Sh、nat、Hart計量，取決於定義用到對數的底。

採用概率分佈的對數作為信息的量度的原因是其可加性。例如，投擲一次硬幣提供了1 Sh的信息，而擲m次就為m位。更一般地，你需要用log(n)位來表示一個可以取n個值的變數。

在1948年，克勞德·艾爾伍德·香農將熱力學的熵，引入到資訊理論，因此它又被稱為 香農熵。

• 熵 (資訊理論)

• 拉普拉斯妖