计算机浮点数算术运算的舍入误差研究 (2005年)

时间:2024-06-11 19:04:13
【文件属性】:

文件名称:计算机浮点数算术运算的舍入误差研究 (2005年)

文件大小:644KB

文件格式:PDF

更新时间:2024-06-11 19:04:13

自然科学 论文

对计算机浮点数算术运算的舍入误差进行分析,是对数值计算方法作误差分析的基础。论文全面研究了计算机浮点数算术运算的舍入误差的基本理论,对有关结论均作了严格的论证。并举例说明由算术运算的误差界,可建立较复杂运算的误差界。还研究了向前误差分析和向后误差分析的要点。推广上述结果,对矩阵基本运算的舍入误差进行了估计。


网友评论