神马作文网关于matlab的精度问题
来源：学生作业帮 编辑：神马作文网作业帮 分类：综合作业 时间：2024/11/10 14:51:58
关于matlab的精度问题
比如说一个矩阵z=[0.4331 0.4331 0.4331]
这个矩阵是某些程序计算出来的,你看起来里边的三个元素是相同的,但matlab判断不相同.是不是和精度有关?如果想让matlab判断他们相同怎么办?
比如说一个矩阵z=[0.4331 0.4331 0.4331]
这个矩阵是某些程序计算出来的,你看起来里边的三个元素是相同的,但matlab判断不相同.是不是和精度有关?如果想让matlab判断他们相同怎么办?
小数变整数然后取模
>> x=[1.4,1.5,1.6];
>> mod(round(x),256)
ans =
1 2 2
>> mod(ceil(x),256)
ans =
2 2 2
>> mod(floor(x),256)
ans =
1 1 1
你想做什么描述清楚些.我看你的*power(2,64)你是想得到x的最后几位是吧.
但是你这样一乘,你就不怕溢出吗?
>> x=[1.4,1.5,1.6];
>> mod(round(x),256)
ans =
1 2 2
>> mod(ceil(x),256)
ans =
2 2 2
>> mod(floor(x),256)
ans =
1 1 1
你想做什么描述清楚些.我看你的*power(2,64)你是想得到x的最后几位是吧.
但是你这样一乘,你就不怕溢出吗?