误差和matlab的计算精度

时间:2016-09-17 15:16:01
【文件属性】:

文件名称:误差和matlab的计算精度

文件大小:37KB

文件格式:PPT

更新时间:2016-09-17 15:16:01

matlab

Matlab中的三种运算精度 数值算法:每个数值都取16位有效数字,按浮点数进行运算;运算速度快; 符号算法:按有理数计算方法运算,可得出有理表达式运算慢; 可控精度算法:用digits(n)指定运算的有效数字; 还有计算中的几个原则


网友评论