动态规划（Dynamic Programming）是求解决策过程（decision process）最优化的数学方法。它的名字和动态没有关系，是Richard Bellman为了唬人而取的。
动态规划主要用于解决包含重叠子问题的最优化问题，其基本策略是将原问题分解为相似的子问题，通过求解并保存重复子问题的解，然后逐步合并成为原问题的解。动态规划的关键是用记忆法储存重复问题的答案，避免重复求解，以空间换取时间。
用动态规划解决的经典问题有：最短路径（shortest path），0-1背包问题（Knapsack problem），旅行商人问题（traveling sales person）等等。
（注：背包问题分为两种：若物体不可分割，则称为0-1背包问题，比如拿一块金砖；若物体可以分开，则称为一般背包问题，比如拿多少克大米。一般背包问题可以用贪心算法解决。贪心算法在每个阶段即可找出当前最优解，每个阶段的最优状态都是由上一个阶段的最优状态得到的。）
可以采用动态规划来求解的问题需要具有以下两个主要特征：
1）重叠子问题（Overlapping Subproblems）：有些子问题会被重复计算多次。
2）最优子结构（Optimal Substructure）：问题的最优解可以从某个子问题的最优解中获得。
下面以计算斐波那契数列为例，看看动态规划算法的实现过程。
以下是1-5的斐波那契数列递归树：
fib(5)
/ \
fib(4) fib(3)
/ \ / \
fib(3) fib(2) fib(2) fib(1)
/ \ ¦ ¦ ¦
fib(2) fib(1) 1 1 1
¦ ¦
1 1
可以看出，fib(5)是由fib(4)和fib(3)相加而成，fib(4)则是由fib(3)和fib(2)相加而成，等等。其中，fib(3)要计算2次，fib(2)要计算3次。这里面进行了很多重复的计算。
按之前博客中提到的递归方法来计算这个斐波那契数列（用递归方法计算斐波那契数列），在此基础上加入print("fib called with",n)语句后，看看fib函数的调用情况：
def fib(n):
print("fib called with",n) #看调用了哪个fib函数，也就是说看计算了斐波那契数列的第几项
if n<2:
return n
else:
return (fib(n-1) + fib(n-2))
计算一下斐波那契数列的第5项试试：
print(fib(5))
运行结果如下：
fib called with 5
fib called with 4
fib called with 3
fib called with 2
fib called with 1
fib called with 0
fib called with 1
fib called with 2
fib called with 1
fib called with 0
fib called with 3
fib called with 2
fib called with 1
fib called with 0
fib called with 1
5
可以看出一共进行了15次调用，其中fib(3)被计算了2次，fib(2)被计算了3次。
而使用动态规划算法来计算这个斐波那契数列，运行则会快一些。代码如下：
def fastFib(n,memo): #memo是设置的一个字典
print("fib1 called with",n)
if not n in memo: #如果斐波那契数列的第n项数值不在字典里，那么用递归方式计算该值，并把该值放入字典中
memo[n]=fastFib(n-1,memo)+fastFib(n-2,memo)
return memo[n] #如果斐波那契数列的第n项数值在字典里，那么直接返回字典里的该项数值 def fib1(n):
memo={0:0,1:1} #初始化一个字典
return fastFib(n,memo)
同样也计算一下斐波那契数列的第5项试试，运行结果如下：
fib1 called with 5
fib1 called with 4
fib1 called with 3
fib1 called with 2
fib1 called with 1
fib1 called with 0
fib1 called with 1
fib1 called with 2
fib1 called with 3
5
可以看出一共进行了9次调用，在进行过一次计算之后，后面的调用都是直接到字典里去获取该值即可。
有两种不同的方式来存储数值：
1) 默记法（从上到下）/ Memoization (Top Down)：设置一个数组，当需要子问题的解时，先去这个数组中查找。如果此问题之前已经求过解，那么就直接返回该值，如果此问题之前并未求过解，那么就计算该值并把结果放入数组中，以备后用。
2) 表格法（从下到上）/ Tabulation (Bottom Up)：用迭代法建立一个表格，从该表格中返回所需的值。
那么到底应该用默记法还是表格法呢？
如果需要求解所有的子问题，那么表格法往往要比默记法好。这是因为表格法没有递归的额外消耗，并且使用预先分配好的数组（preallocated array），而不是哈希图（hash map）。
如果只是需要求解其中一些子问题，那么默记法则要好些。
参考：麻省理工学院公开课：计算机科学及编程导论（第13集）