您的位置首页百科问答

matlab中output data type选择double是什么意思?

matlab中output data type选择double是什么意思?

的有关信息介绍如下:

matlab中output data type选择double是什么意思?

output data type:选择输出数据类型。

一般会有两种选择,一种是double,一种是float。double 和 float 的区别是double精度高,有效数字16位,float精度7位。

但是,double消耗内存是float的两倍,double的运算速度比float慢得多,所以matlab在即将运算的时候会向用户反馈信息,如果用户要求计算结果精度高,那么matlab就会采取double计算方式,反之则采用float。

通常情况下,为了节省内存,加快运算速度,能用单精度时不要用双精度。

输出数据类型是双精度的