超定方程組
超定方程組
超定方程組是指方程個數大於未知量個數的方程組。對於方程組Ra=y,R為n×m矩陣,如果R列滿秩,且n>m。則方程組沒有精確解,此時稱方程組為超定方程組。
超定方程組
超定方程組
超定方程一般是不存在解的矛盾方程。
例如,如果給定的三點不在一條直線上,我們將無法得到這樣一條直線,使得這條直線同時經過給定這三個點。也就是說給定的條件(限制)過於嚴格,導致解不存在。在實驗數據處理和曲線擬合問題中,求解超定方程組非常普遍。比較常用的方法是最小二乘法。形象的說,就是在無法完全滿足給定的這些條件的情況下,求一個最接近的解。
曲線擬合是最小二乘法要解決的問題,實際上就是求以上超定方程組的最小二乘解的問題。
如果有向量a使得 下式的值達到最小,則稱a為上述 超定方程的最小二乘解。
方程組有精確解,則稱為是相容的,其充要條件是。設,則總存在分解,即滿秩分解。
方程組必存在最小二乘解,且a是方程組的最小二乘解的充要條件是a是的解。
若,則方程組有無窮多個最小二乘解,其中2-范數最小的解稱為方程組的極小最小二乘解,且該解是唯一的,為
若,以上超定方程組存在唯一最小二乘解,解為