動態規劃

動態規劃一般可分為線性動規，區域動規，樹形動規，背包動規四類。

舉例：

線性動規：攔截導彈，合唱隊形，挖地雷，建學校，劍客決鬥等；

區域動規：石子合併，加分二叉樹，統計單詞個數，炮兵布陣等；

樹形動規：貪吃的九頭龍，二分查找樹，聚會的歡樂，數字三角形等；

背包問題：01背包問題，完全背包問題，分組背包問題，二維背包，裝箱問題，擠牛奶（同濟ACM第1132題）等；

應用實例：

最短路徑問題，項目管理，網路流優化等；

POJ動態規劃題目列表：

容易：

1018,1050,1083,1088,1125,1143,1157,1163,1178,1179,1189,1191,1208,1276,1322,1414,1456,1458,1609,1644,1664,1690,1699,1740,1742,1887,1926,1936,1952,1953,1958,1959,1962,1975,1989,2018,2029,2039,2063,2081,2082,2181,2184,2192,2231,2279,2329,2336,2346,2353,2355,2356,2385,2392,2424。

不易：

1019,1037,1080,1112,1141,1170,1192,1239,1655,1695,1707,1733(區間減法加並查集),1737,1837,1850,1920(加強版漢羅塔),1934(全部最長公共子序列),1964(最大矩形面積，O(n*m)演演算法),2138,2151,2161,2178。

推薦：

1015,1635,1636,1671,1682,1692,1704,1717,1722,1726,1732,1770,1821,1853,1949,2019,2127,2176,2228,2287,2342,2374,2378,2384,2411。

動態規劃問世以來，在經濟管理、生產調度、工程技術和最優控制等方面得到了廣泛的應用。例如最短路線、庫存管理、資源分配、設備更新、排序、裝載等問題，用動態規劃方法比用其它方法求解更為方便。

雖然動態規劃主要用於求解以時間劃分階段的動態過程的優化問題，但是一些與時間無關的靜態規劃(如線性規劃、非線性規劃)，只要人為地引進時間因素，把它視為多階段決策過程，也可以用動態規劃方法方便地求解。

動態規劃程序設計是對解最優化問題的一種途徑、一種方法，而不是一種特殊演演算法。不像搜索或數值計算那樣，具有一個標準的數學表達式和明確清晰的解題方法。動態規劃程序設計往往是針對一種最優化問題，由於各種問題的性質不同，確定最優解的條件也互不相同，因而動態規劃的設計方法對不同的問題，有各具特色的解題方法，而不存在一種萬能的動態規劃演演算法，可以解決各類最優化問題。因此讀者在學習時，除了要對基本概念和方法正確理解外，必須具體問題具體分析處理，以豐富的想象力去建立模型，用創造性的技巧去求解。我們也可以通過對若干有代表性的問題的動態規劃演演算法進行分析、討論，逐漸學會並掌握這一設計方法。

多階段決策過程的最優化問題。

含有遞推的思想以及各種數學原理（加法原理，乘法原理等等）。

在現實生活中，有一類活動的過程，由於它的特殊性，可將過程分成若干個互相聯繫的階段，在它的每一階段都需要作出決策，從而使整個過程達到最好的活動效果。因此各個階段決策的選取不能任意確定，它依賴於當前面臨的狀態，又影響以後的發展。當各個階段決策確定后，就組成一個決策序列，因而也就確定了整個過程的一條活動路線．這種把一個問題看作是一個前後關聯具有鏈狀結構的多階段過程就稱為多階段決策過程，這種問題稱為多階段決策問題。

動態規劃演演算法通常用於求解具有某種最優性質的問題。在這類問題中，可能會有許多可行解。每一個解都對應於一個值，我們希望找到具有最優值的解。動態規劃演演算法與分治法類似，其基本思想也是將待求解問題分解成若干個子問題，先求解子問題，然後從這些子問題的解得到原問題的解。與分治法不同的是，適合於用動態規劃求解的問題，經分解得到子問題往往不是互相獨立的。若用分治法來解這類問題，則分解得到的子問題數目太多，有些子問題被重複計算了很多次。如果我們能夠保存已解決的子問題的答案，而在需要時再找出已求得的答案，這樣就可以避免大量的重複計算，節省時間。我們可以用一個表來記錄所有已解的子問題的答案。不管該子問題以後是否被用到，只要它被計算過，就將其結果填入表中。這就是動態規劃法的基本思路。具體的動態規劃演演算法多種多樣，但它們具有相同的填表格式。

1.多階段決策問題

如果一類活動過程可以分為若干個互相聯繫的階段，在每一個階段都需作出決策(採取措施)，一個階段的決策確定以後，常常影響到下一個階段的決策，從而就完全確定了一個過程的活動路線，則稱它為多階段決策問題。

各個階段的決策構成一個決策序列，稱為一個策略。每一個階段都有若干個決策可供選擇，因而就有許多策略供我們選取，對應於一個策略可以確定活動的效果，這個效果可以用數量來確定。策略不同，效果也不同，多階段決策問題，就是要在可以選擇的那些策略中間，選取一個最優策略，使在預定的標準下達到最好的效果.

2．動態規劃問題中的術語

階段：把所給求解問題的過程恰當地分成若干個相互聯繫的階段，以便於求解，過程不同，階段數就可能不同．描述階段的變數稱為階段變數。在多數情況下，階段變數是離散的，用k表示。此外，也有階段變數是連續的情形。如果過程可以在任何時刻作出決策，且在任意兩個不同的時刻之間允許有無窮多個決策時，階段變數就是連續的。

在前面的例子中，第一個階段就是點A，而第二個階段就是點A到點B，第三個階段是點B到點C，而第四個階段是點C到點D。

狀態：狀態表示每個階段開始面臨的自然狀況或客觀條件，它不以人們的主觀意志為轉移，也稱為不可控因素。在上面的例子中狀態就是某階段的出發位置，它既是該階段某路的起點，同時又是前一階段某支路的終點。

在前面的例子中，第一個階段有一個狀態即A，而第二個階段有兩個狀態B1和B2，第三個階段是三個狀態C1，C2和C3，而第四個階段又是一個狀態D。

過程的狀態通常可以用一個或一組數來描述，稱為狀態變數。一般，狀態是離散的，但有時為了方便也將狀態取成連續的。當然，在現實生活中，由於變數形式的限制，所有的狀態都是離散的，但從分析的觀點，有時將狀態作為連續的處理將會有很大的好處。此外，狀態可以有多個分量(多維情形)，因而用向量來代表；而且在每個階段的狀態維數可以不同。

當過程按所有可能不同的方式發展時，過程各段的狀態變數將在某一確定的範圍內取值。狀態變數取值的集合稱為狀態集合。

無後效性：我們要求狀態具有下面的性質：如果給定某一階段的狀態，則在這一階段以後過程的發展不受這階段以前各段狀態的影響，所有各階段都確定時，整個過程也就確定了。換句話說，過程的每一次實現可以用一個狀態序列表示，在前面的例子中每階段的狀態是該線路的始點，確定了這些點的序列，整個線路也就完全確定。從某一階段以後的線路開始，當這段的始點給定時，不受以前線路（所通過的點）的影響。狀態的這個性質意味著過程的歷史只能通過當前的狀態去影響它的未來的發展，這個性質稱為無後效性。

決策：一個階段的狀態給定以後，從該狀態演變到下一階段某個狀態的一種選擇（行動）稱為決策。在最優控制中，也稱為控制。在許多問題中，決策可以自然而然地表示為一個數或一組數。不同的決策對應著不同的數值。描述決策的變數稱決策變數，因狀態滿足無後效性，故在每個階段選擇決策時只需考慮當前的狀態而無須考慮過程的歷史。

決策變數的範圍稱為允許決策集合。

策略：由每個階段的決策組成的序列稱為策略。對於每一個實際的多階段決策過程，可供選取的策略有一定的範圍限制，這個範圍稱為允許策略集合。允許策略集合中達到最優效果的策略稱為最優策略。

給定k階段狀態變數x(k)的值后，如果這一階段的決策變數一經確定，第k+1階段的狀態變數x(k+1)也就完全確定，即x(k+1)的值隨x(k)和第k階段的決策u(k)的值變化而變化，那麼可以把這一關係看成(x(k)，u(k))與x(k+1)確定的對應關係，用x(k+1)=Tk(x(k),u(k))表示。這是從k階段到k+1階段的狀態轉移規律，稱為狀態轉移方程。最優化原理：作為整個過程的最優策略，它滿足：相對前面決策所形成的狀態而言，餘下的子策略必然構成“最優子策略”。一個問題滿足最優化原理也稱其擁有最優子結構性質。最優性原理實際上是要求問題的最優策略的子策略也是最優。讓我們通過對前面的例子再分析來具體說明這一點：從A到D，我們知道，最短路徑是AB1C2D，這些點的選擇構成了這個例子的最優策略，根據最優性原理，這個策略的每個子策略應是最優：

AB1C2是A到C2的最短路徑，B1C2D也是B1到D的最短路徑。──事實正是如此，因此我們認為這個例子滿足最優性原理的要求。

多階段決策問題中，各個階段採取的決策，一般來說是與時間有關的，決策依賴於當前狀態，又隨即引起狀態的轉移，一個決策序列就是在變化的狀態中產生出來的，故有“動態”的含義，稱這種解決多階段決策最優化問題的方法為動態規劃方法。

根據上例分析和動態規劃的基本概念，可以得到動態規劃的基本模型如下：

(1)確定問題的決策對象。(2)對決策過程劃分階段。(3)對各階段確定狀態變數。(4)根據狀態變數確定費用函數和目標函數。(5)建立各階段狀態變數的轉移過程，確定狀態轉移方程。

狀態轉移方程的一般形式：

一般形式：U：狀態；X：策略

順推：f[Uk]=opt{f[Uk-1]+L[Uk-1,Xk-1]}其中，L[Uk-1,Xk-1]：狀態Uk-1通過策略Xk-1到達狀態Uk的費用初始f[U1]；結果：f[Un]。

倒推：

f[Uk]=opt{f[Uk+1]+L[Uk,Xk]}

L[Uk,Xk]：狀態Uk通過策略Xk到達狀態Uk+1的費用

初始f[Un]；結果：f(U1)

任何思想方法都有一定的局限性，超出了特定條件，它就失去了作用。同樣，動態規劃也並不是萬能的。適用動態規劃的問題必須滿足最優化原理和無後效性。

1.最優化原理（最優子結構性質）最優化原理可這樣闡述：一個最優化策略具有這樣的性質，不論過去狀態和決策如何，對前面的決策所形成的狀態而言，餘下的諸決策必須構成最優策略。簡而言之，一個最優化策略的子策略總是最優的。一個問題滿足最優化原理又稱其具有最優子結構性質。

2.無後效性將各階段按照一定的次序排列好之後，對於某個給定的階段狀態，它以前各階段的狀態無法直接影響它未來的決策，而只能通過當前的這個狀態。換句話說，每個狀態都是過去歷史的一個完整總結。這就是無後向性，又稱為無後效性。

3.子問題的重疊性動態規劃將原來具有指數級時間複雜度的搜索演演算法改進成了具有多項式時間複雜度的演演算法。其中的關鍵在於解決冗餘，這是動態規劃演演算法的根本目的。動態規劃實質上是一種以空間換時間的技術，它在實現的過程中，不得不存儲產生過程中的各種狀態，所以它的空間複雜度要大於其它的演演算法。

演演算法實現是比較好考慮的。但有時也會遇到一些問題，而使演演算法難以實現。動態規劃思想設計的演演算法從整體上來看基本都是按照得出的遞推關係式進行遞推，這種遞推相對於計算機來說，只要設計得當，效率往往是比較高的，這樣在時間上溢出的可能性不大，而相反地，動態規劃需要很大的空間以存儲中間產生的結果，這樣可以使包含同一個子問題的所有問題共用一個子問題解，從而體現動態規劃的優越性，但這是以犧牲空間為代價的，為了有效地訪問已有結果，數據也不易壓縮存儲，因而空間矛盾是比較突出的。另一方面，動態規劃的高時效性往往要通過大的測試數據體現出來（以與搜索作比較），因而，對於大規模的問題如何在基本不影響運行速度的條件下，解決空間溢出的問題，是動態規劃解決問題時一個普遍會遇到的問題。

一個思考方向是儘可能少佔用空間。如從結點的數據結構上考慮，僅僅存儲必不可少的內容，以及數據存儲範圍上精打細算(按位存儲、壓縮存儲等)。當然這要因問題而異，進行分析。另外，在實現動態規劃時，一個我們經常採用的方法是用一個與結點數一樣多的數組來存儲每一步的決策，這對於倒推求得一種實現最優解的方法是十分方便的，而且處理速度也有一些提高。但是在內存空間緊張的情況下，我們就應該抓住問題的主要矛盾。省去這個存儲決策的數組，而改成在從最優解逐級倒推時，再計算一次，選擇某個可能達到這個值的上一階段的狀態，直到推出結果為止。這樣做，在程序編寫上比上一種做法稍微多花一點時間，運行的時效也可能會有一些(但往往很小)的下降，但卻換來了很多的空間。因而這種思想在處理某些問題時，是很有意義的。

但有時，即使採用這樣的方法也會發現空間溢出的問題。這時就要分析，這些保留下來的數據是否有必要同時存在於內存之中。因為有很多問題，動態規劃遞推在處理後面的內容時，前面比較遠處的內容實際上是用不著的。對於這類問題，在已經確信不會再被使用的數據上覆蓋數據，從而使空間得以重複利用，如果能有效地使用這一手段，對於相當大規模的問題，空間也不至於溢出（為了求出最優方案，保留每一步的決策仍是必要的，這同樣需要空間）。

一般地說，這種方法可以通過兩種思路來實現：一種是遞推結果僅使用Data1和Data2這樣兩個數組，每次將Data1作為上一階段，推得Data2數組，然後，將Data2通過複製覆蓋到Data1之上，如此反覆，即可推得最終結果。這種做法有一個局限性，就是對於遞推與前面若干階段相關的問題，這種做法就比較麻煩；而且，每遞推一級，就需要複製很多的內容，與前面多個階段相關的問題影響更大。另外一種實現方法是，對於一個可能與前N個階段相關的問題，建立數組Data[0..N]，其中各項為前面N個階段的保存數據。這樣不採用這種內存節約方式時對於階段k的訪問只要對應成對數組Data中下標為kmod(N+1)的單元的訪問就可以了。這種處理方法對於程序修改的代碼很少，速度幾乎不受影響，而且需要保留不同的階段數也都能很容易實現。

當採用以上方法仍無法解決內存問題時，也可以採用對內存的動態申請來使絕大多數情況能有效出解。而且，使用動態內存還有一點好處，就是在重複使用內存而進行交換時，可以只對指針進行交換，而不複製數據，這在實踐中也是十分有效的。

MATLAB、LINGO

在編程中常用解決最長公共子序列問題、矩陣連乘問題、凸多邊形最優三角剖分問題、電路布線等問題。

記憶化

給你一個數字三角形，形式如下:

找出從第一層到最後一層的一條路，使得所經過的權值之和最小或者最大.

無論對於新手還是老手，這都是再熟悉不過的題了，很容易地，我們寫出狀態轉移方程：

f[i][j]=a[i][j]+min{f[i+1][j]，f[i+1][j+1]}(a[i][j]表示當前狀態,f[i][j]表示指標函數)

對於動態規劃演演算法解決這個問題，我們根據狀態轉移方程和狀態轉移方向，比較容易地寫出動態規劃的循環表示方法。但是，當狀態和轉移非常複雜的時候，也許寫出循環式的動態規劃就不是那麼簡單了。

工期成本管理的目標是正確處理工期與成本的關係，使工期成本的總和達到最低值。一般來說，工期越短，工期措施成本越小；但當工期短至一定限度時，工期措施成本則會急劇上升。而工期損失則不然，因自然條件引起的工期損失，其損失額度相應較小，通常情況下不予賠償或賠償額度較小，該部分工期損失可不予考慮。因施工項目內部因素造成的工期損失，隨著時間的推移，經驗的積累會逐漸減少。綜合工期成本的各種因素，就會找到一個工期成本為最低的理想點。這一點也就是工期最短並且成本最低的最優點。

網路成本工期優化是指在既定的條件下，對初步擬定的網路計劃方案，利用時差不斷調整和改善，使之達到工期最短、成本最低、資源最優的目的。動態規劃法是優化中引入動態規劃法建立數學模型，並利用遞推公式求解，從而尋求成本工期優化的最優目標，達到控制成本的目的。推薦書籍《Dynamic Programming》ISBN：3540370137【出版日期】2005年7月。

動態規劃的數學模型。根據決策過程的演變是確定性的還是隨機性的。可分為確定性決策過程和隨機性決策過程。另外。也可按時間參量是離散的或是連續的變數。分為離散決策過程和連續決策過程。組合起來就有離散確定性．離散隨機性．連續確定性．連續隨機性四種決策過程模型。

對於確定性的決策過程。問題中下一段的狀態已由當前段的狀態及決策完全確定。對於隨機性決策過程。它與確定性決策過程的區別在於下一段的狀態並不能由當前段的狀態及決策完全確定。而是按某種概率分佈來決定下一段的狀態。這種概率分佈是由當前段的狀態和決策完全確定。

動態規劃對於解決多階段決策問題的效果是明顯的，但是動態規劃也有一定的局限性。首先，它沒有統一的處理方法，必須根據問題的各種性質並結合一定的技巧來處理；另外當變數的維數增大時，總的計算量及存貯量急劇增大。因而，受計算機的存貯量及計算速度的限制，當今的計算機仍不能用動態規劃方法來解決較大規模的問題，這就是“維數障礙”。