舍入誤差

舍入誤差

舍入誤差,是由於計算機的字長有限,進行數值計算的過程中,對計算得到的中間結果數據要使用“四捨五入”或其他規則取近似值,因而使計算過程有誤差。這種誤差稱為舍入誤差。

詞語解釋


由於計算機的字長有限,進行數值計算的過程中,對計算得到的中間結果數據要使用“四捨五入”或其他規則取近似值,因而使計算過程有誤差。這種誤差稱為舍入誤差。

相關條目


數學計算機誤差