信息密度

信息密度

信息密度(Theinformationdensity)指一份信息所能提供的相關信息量的相對指標。僅僅考慮系統的信息,是不夠的,因為這僅僅考慮了系統的聯繫,忽略了系統的差異和相互作用。如果我們綜合考慮聯繫、差異和相互作用,就不僅要考慮系統的信息,而且要考慮系統的慣性,由此就需要引出一個叫做信息密度的概念。

綜合敘述


在系統動力學意義上,給出了慣性和存在量的概念,得到一個表徵系統存在性的量:
E=KM/H⑴
其中E是系統存在量;K是比例係數;H:系統的結構信息量;M:系統的慣性。
並且指出,在一般系統中,系統存在量是單位信息的慣性;在物質系統中,系統存在量是物質的密度;在能量系統中,系統存在量是單位信息的信息能阻抗;在信息系統中,系統存在量是單位信息的信息阻抗。
現在我們再給出信息密度的概念:
S=K`H/M⑵
其中S是系統的信息密度;K`比例係數;H:系統的結構信息量;M:系統的慣性。
將公式⑴、⑵相乘,有:
ES=KK`
考慮適當的單位,使K=1,K`=1,有:
ES=1

意義介紹


信息密度的意義是多方面的,在一般情況下,信息密度是單位慣性所具有的信息;在物質系統中,信息密度是單位質量具有的信息;在能量系統中,信息密度是單位信息能阻抗具有的信息;在信息系統中,信息密度是單位信息阻抗具有的信息。下面分別進行討論。

單位慣性的信息

從信息密度關係可以看出,信息密度實際上是單位慣性的信息。
“單位慣性的信息”是對於慣性結構的刻畫,反映的是慣性結構的簡單和複雜。
單位慣性的信息提供了對各種體系的信息進行比較的基礎。
在對各種體系的信息進行比較時,必須在同樣的慣性條件下來進行,各種體系的慣性是不同的,因此必須在單位慣性的前提下來比較,即通過信息密度來比較。

單位質量所具有的信息

在物質系統中,慣性與質量成正比,此時,單位慣性的信息變成單位質量的信息。
“單位質量的信息”是對於質量結構的刻畫,反映的是質量結構的簡單和複雜。
單位質量的信息提供了對各種體系的信息進行比較的基礎。
在對各種體系的信息進行比較時,必須在同樣的質量條件下來進行,各種體系的質量是不同的,因此必須在單位質量的前提下來比較,即通過信息密度來比較。
單位質量所具有的信息反映物質結構的簡單和複雜,這個問題涉及物質、能量、信息的關係,有很多值得深入討論的東西。本文不打算對此作詳細討論,只介紹一下與之相關的張學文問題,供大家討論。
張學文在“系統科學之窗。論文專區”的一篇文章“質量、能量、信息的統一與三角關係”中提出一個重要問題∶1克物質可荷載多少信息?並把可荷載的最大信息與愛因斯坦的質能公式相聯繫,從而得出質量、能量、信息的統一關係。張學文的原文摘抄如下∶
古代,為荷載一個漢字大概要用1克物質(寫到竹子上)。而最近的新聞報道說韓國製成了256兆位的計算機存信息的晶元(這是1994年的語言)。我折算了一下它大約是1克物質可以裝上100萬個漢字。而隨著科學進步1克物質可以裝載的信息量還會提高。但是即便將來真的能以單個原子或電子的有無表示信息,1克物質可裝載的信息量可以更大,但它仍是個有限值。這個信息與質量的極限比值就初步具有信息與質量的絕對意義下的聯繫關係了(而這個比值是有待我們去測算的)。
愛因斯坦的質能公式,還含有質量減少M,則能量就增加MC2的意義。因而更深層次的信息與質量的關係應當分析例如某種原子核反應中質量的減少過程信息量是否有增加?這些脫離了質量(注意,我沒有講脫離物質)的信息是以能量為載體嗎?如果是,那麼單位能量最多荷載多少信息(無線電波就是荷載信息的一種能量)?資訊理論中關於通道寬度與每分鐘發送的信息量的關係是否可以回答這個問題?筆者目前無力斷言。
張學文問題用信息密度來表示就是:在物質無限細分的情況下,是否存在一個極限,使信息密度趨於最大值。或者說:在ΔM趨於0的情況下,是否存在limS=maxS。這個問題涉及我們這個世界構成的基礎,當然是很重要的。

單位信息能阻抗具有的信息

系統從狀態A變化到狀態C需要一定能量,這個能量不是一般能量,而是信息能。對系統而言,這個信息能的需要形成一個信息能壁壘,阻止系統從狀態A變化到狀態B,稱為信息能阻抗。
但是,如果有一個信息子集合H,它能克服信息能阻抗,而使系統從狀態A變化到狀態B,則說該信息子集合H擁有克服阻抗的信息能。
從信息能阻抗亦可對慣性進行定義。
如果按照最小信息能阻抗來定義慣性,則信息密度是單位信息能阻抗具有的信息。
“單位信息能阻抗具有的信息”是對於信息能阻抗結構的刻畫,反映的是信息能阻抗結構的簡單和複雜。
在《發現信息能,利用信息能》一文中,我們已經對信息能阻抗的意義進行了討論,從信息能阻抗的意義可以直觀地來理解信息密度的意義,信息密度是形成單位信息能阻抗所需要的信息。
在對各種體系的信息進行比較時,必須在同樣的信息能阻抗條件下來進行,各種體系的信息能阻抗是不同的,因此必須在單位信息能阻抗的前提下來比較,即通過信息密度來比較。

單位信息阻抗具有的信息

系統慣性是根據信息來定義的,系統慣性定義為系統從某狀態轉移到另一狀態所需的最小信息量。與信息能阻抗類似,對系統而言,這個最小信息量的需要形成一個信息壁壘,阻止系統從狀態A變化到狀態C,稱為信息阻抗。
以信息阻抗來表徵系統慣性,信息密度就是單位信息阻抗所具有的信息。
信息阻抗與普里戈金講的熵壘不一樣,熵與系統的結構信息量相聯繫,而信息阻抗與系統相互作用的特徵信息量相聯繫,信息密度則將系統的結構信息量和相互作用的特徵信息量聯繫起來。
孤立系統中,由於相互作用的特徵信息量是定值,信息密度僅決定於系統的結構信息量,此時用信息密度來判斷系統運動方向,與用熵增原理判斷系統運動方向,是完全一致的。也就是說,在孤立系統中,信息密度與熵實際上是等價的(具有正比關係);在開放系統中,信息阻抗的作用增大,用信息密度判斷開放系統運動方向,實質是用單位信息阻抗所具有的信息來判斷開放系統運動方向。
怎樣用信息密度來判斷系統運動方向呢?這要將信息密度與存在振蕩原理相聯繫來考慮才能辦到。

信息密度表述


存在振蕩原理的信息密度表述是說,形成信息密度振蕩的系統可能是穩定的。
為什麼形成信息密度振蕩的系統可能是穩定的?前面說過,系統的同一性振蕩使得存在各方在一定的範圍內共存,從而使回復運動得以實現,系統達於某種穩定狀態。而系統的同一性振蕩從定量角度表現為信息密度振蕩,故形成信息密度振蕩的系統可能是穩定的。
直接地說,當形成信息密度振蕩時,系統的運行狀態大幅度壓縮,從而使系統達於穩定。
既然形成信息密度振蕩的系統可能是穩定的,那麼,信息密度保持恆定的系統也可能是穩定的。
現在來做一些具體分析。為簡便,假定慣性為常數,並以人們熟悉的信息熵公式為例。

信息變換平衡與系統穩定

信息熵公式是∶
S=-∑Si=-∑PilnPi⑴;
其中∑Pi=1,(i=1,2,…,n)
在信息變換平衡時,信息熵計算中的n不變,而只是概率Pi(i=1,2,…,n)的值發生變化,即Si發生變化。若S保持恆定,則信息熵公式中的Si項保持共軛變化,即當某些Si項變大時,另一些Si項將變小,使S總體上保持不變。因此,所有Si項可分為三部分:
⑴Si(i=1,2,…,k)保持恆定。
⑵Si(i=k+1,k+2,…,j)變大。
⑶Si(i=j+1,j+2,…,n)變小。
對於第一種情況,系統將運行於Si(i=1,2,…,k)保持恆定所決定的狀態中,而排除Si(i=1,2,…,k)不保持恆定的那些狀態。
對於第二和第三種情況,系統狀態受到一種共軛約束,即當某些Si項變大時,另一些Si項必須變小,系統只能運行於由共軛約束所決定的狀態中,而排除共軛約束以外的那些狀態。
因此,系統將運行於Si保持恆定的狀態和共軛約束所決定的狀態,系統將穩定於這些狀態,而排除其他狀態。
共軛約束在保持系統運行於特定狀態時的作用究竟有多大?可以舉例說明。
例如,兩個足球隊比賽,甲方取勝的可能性是4/5,乙方取勝的可能性是1/5,S=S(4/5,1/5)。假定在以後的比賽中,兩個足球隊構成的系統保持熵不變,這隻有兩種可能:
⑴仍然保持甲方取勝的可能性是4/5,乙方取勝的可能性是1/5。
⑵變化為甲方取勝的可能性是1/5,乙方取勝的可能性是4/5。
系統只能運行於這兩種狀態,而排除其他狀態。
但是,系統要從第一種狀態轉移到第二種狀態,需要克服很大的阻抗。因為甲方為了保持原來的優勢,不斷在加強自己的實力,乙方要取代甲方的位置,必然要付出巨大的努力例如:調整隊伍、換教練、加強訓練、增加經費等。同時,乙方取代甲方通常不可能一步到位,而兩個足球隊構成的系統又要保持熵不變,這決定了在一個較長時間內,兩個足球隊構成的系統運行於第一種狀態的可能性很大,運行於第二種狀態的可能性很小。即根據系統保持熵不變的情況,可以判斷,系統將以很大概率穩定運行於第一種狀態。
在複雜系統中,由於系統內存在複雜的共軛約束,使系統可運行狀態大大減少,系統將以很大概率穩定運行於很少數的狀態。

信息生滅平衡

在信息生滅平衡時,信息熵計算中的n要發生變化。
可以考慮概率Pi=1/n(i=1,2,…,n),則有:
S=-∑PilnPi=lnn⑵
即信息熵隨著n的變化而變化。
n的變化意味著什麼呢?n的變化意味著系統中獨立要素的變化,也就意味著系統結構的變化。
為什麼說n的變化意味著系統結構的變化呢?例如:n個要素按排列組合,其系統的可能結構數為n!,即n×(n-1)×(n-2)×…×1,若n變化為(n+1),則系統結構可能變化為(n+1)!,即(n+1)×n×(n-1)×(n-2)×…×1,系統的可能結構數增加(n+1)倍。
若信息熵保持不變,就意味著系統結構不變,如果系統結構變化,那也只意味著新陳代謝,系統結構從總體上看是穩定的。

熵增原理


熵增原理指出的是宏觀過程的不可逆性。它指出,孤立系統中過程的進行指向熵增加方向,進行的限度由熵的最大值給出。故有:
dS≥0,或△S≥0⑶
其中,S表示熵。熵增定律適合於孤立系統。

熵振蕩原理

熵增定律僅僅適合於孤立系統,這是一個太強的條件。雖然從處理方法上講,假定自然界存在孤立過程是可以的。但是從本質上講,把某一事物從自然界中孤立出來,就使理論帶上了一定的主觀色彩。實際上,絕對的聯繫和相對的孤立的綜合,才是事物運動的本來面目。那麼,當系統不再人為地被孤立的時候,它就不再是只有熵增,而是既有熵增,又有熵減了。
現在,一個中心問題出現了,在系統的熵增和熵減過程中,是否存在一個不動點,使熵增和熵減達到平衡(△S=0)。
熵增為零的現象是存在的,在孤立系統中,平衡狀態就是熵增為零。而在非孤立系統中,系統在特定狀態時熵增可能為零。
一旦熵增(減)等於零,則熵為常數。就有:
dS=0,或△S=0⑷
公式⑷與公式⑶的區別首先在於公式⑶是不等號,而公式⑷是等號。這有什麼不同呢?公式⑶的不等號表明系統只有一個運動方向,即指向熵增加方向,而公式⑷的等號則表明系統既可能指向熵增加方向,也可能指向熵減少方向,但是,系統總是圍繞某個恆定的熵值做回復振蕩運動。
公式⑶在孤立系統中成立,公式⑷則適合一般系統。
由此,就有熵振蕩原理。熵振蕩原理可以表述為,形成熵振蕩的系統可能是穩定的。
或者在更強的條件下,熵振蕩原理表述為:熵保持恆定的系統可能是穩定的。
在系統變化過程中,要在每時每刻都保持熵為恆量,是一個太強的條件。而許多過程可以表現為在某些時間位點上熵為恆量。這時,系統出現熵振蕩過程,當熵振蕩的時段極短時,它趨近於等熵過程。

存在振蕩原理

由此就有存在振蕩原理的信息密度表述。即形成信息密度振蕩的系統可能是穩定的。
或者在更強的條件下,存在振蕩原理表述為:信息密度保持恆定的系統可能是穩定的。
信息密度保持恆定,意味著信息密度的變化為0,即:
dS=0,或△S=0⑸
上式與公式⑷形式上完全一致。不過,公式⑷中的S是表示熵,公式⑸中的S是表示信息密度,當慣性=常數=1時,公式⑷與公式⑸完全一致。故在不產生混淆時,熵和信息密度都用S表示。
由此,就有如下關係:
在一般情況下,系統服從存在振蕩原理:形成信息密度振蕩的系統可能是穩定的。或者說:信息密度保持恆定的系統可能是穩定的。
當慣性=常數=1時,系統服從熵振蕩原理:形成熵振蕩的系統可能是穩定的。
或者說:熵保持恆定的系統可能是穩定的。
在孤立系統中,系統服從熵增原理:孤立系統中過程的進行指向熵增加方向。

系統穩定性


一個複雜系統通常總是處在不斷的運動、發展和變化之中,怎樣應用存在振蕩原理來分析該複雜系統的穩定、運動、發展和變化呢?一般方法是建立一個系統參照系空間,系統參照系空間劃分成許多區域;將系統置於系統參照系空間中,使系統的各可區辨部分對應於系統參照系空間各區域;確定系統參照系空間各區域的信息密度,然後應用存在振蕩原理來分析該複雜系統的穩定、運動、發展和變化。

系統各區域穩定性分析

系統各區域的信息密度的變化情況不外三種,即dS=0,dS≥0,dS≤0。或者△S=0,△S≥0,△S≤0。這三種情況,對應著系統各區域的穩定、運動、發展和變化的情形,歸納說明如下:
dS≥0結構發展(如生長發育、細胞分裂、帝國興起、文化復興、天才成長、組織發展、業務擴展等等)
dS=0結構穩定(如新陳代謝、細胞生滅(平衡)、帝國存續、文化傳承、天才成功、組織穩定、業務正常等等)
dS≤0結構消亡(如生命衰老、細胞衰亡、帝國衰落、文化毀滅、天才毀滅、興亡相繼、結構負增長、信息遲滯等等)
上面所例舉的系統各區域的穩定、運動、發展和變化的情形,只是指出結構穩定、發展和消亡的客觀現象,並不涉及這些現象的好壞,即不涉及目標。如細胞分裂不一定好,細胞衰亡不一定壞。

系統穩定的層次分析

系統穩定通常是有層次的,不同層次的穩定、運動、發展和變化的情形不一樣。如原子不變,原子內部的電子運動變化多端;分子不變,分子內部的原子運動變化多端;人體組織不變,組織內部的運動變化多端;企業不變,企業內部的運作變化多端,等等。
分析系統各層次的穩定、運動、發展和變化的情形,也是建立一個系統參照系空間,系統參照系空間劃分成許多層次;將系統置於系統參照系空間中,使系統的各可區辨層次對應於系統參照系空間各層次;確定系統參照系空間各層次的信息密度,然後應用存在振蕩原理來分析該系統各層次的穩定、運動、發展和變化。
同樣,系統各層次的信息密度的變化情況不外三種,即dS=0,dS≥0,dS≤0。或者△S=0,△S≥0,△S≤0。這三種情況,對應著系統各層次的穩定、運動、發展和變化的情形。其表現出的現象與系統各區域表現出的現象相似。