作业帮 > 综合 > 作业

保留4位有效数字,matlab中误差限Tol是多少

来源:学生作业帮 编辑:神马作文网作业帮 分类:综合作业 时间:2024/09/28 13:17:08
保留4位有效数字,matlab中误差限Tol是多少
10^-4还是10^-5?
保留4位有效数字,matlab中误差限Tol是多少
你所说的是在什么地方的误差限?
误差限有绝对误差和相对误差之分.如果是绝对误差,决定的是精确到几位小数,并不意味着有效数字的位数;而相对误差则决定有效数字的位数,4位的话取10^-4就可以了.