作业帮 > 综合 > 作业

casio计算器计算精度

来源:学生作业帮 编辑:神马作文网作业帮 分类:综合作业 时间:2024/11/12 02:17:50
casio计算器计算精度
casio计算坐标结果X坐标3位小数,Y坐标4位小数,我在程序中设置的是4啊!郁闷
自己找到了一个原因:即我的X坐标带小数点12位,而Y坐标11位!难道这是计算器限制了?只能显示这么多为位?
casio计算器计算精度
我也觉得是奇怪,明明一个几十位的小数(作为分数化小数的结果),但是到上面就变11位数了(包括整数部分和小数点),到电脑上一算一长串,估计casio计算器就这精确度.