文件名称:误差和matlab的计算精度
文件大小:37KB
文件格式:PPT
更新时间:2016-09-17 15:16:01
matlab
Matlab中的三种运算精度 数值算法:每个数值都取16位有效数字,按浮点数进行运算;运算速度快; 符号算法:按有理数计算方法运算,可得出有理表达式运算慢; 可控精度算法:用digits(n)指定运算的有效数字; 还有计算中的几个原则
文件名称:误差和matlab的计算精度
文件大小:37KB
文件格式:PPT
更新时间:2016-09-17 15:16:01
matlab
Matlab中的三种运算精度 数值算法:每个数值都取16位有效数字,按浮点数进行运算;运算速度快; 符号算法:按有理数计算方法运算,可得出有理表达式运算慢; 可控精度算法:用digits(n)指定运算的有效数字; 还有计算中的几个原则