门头沟 墨非营训基地:两个不同的数……

来源:百度文库 编辑:高考问答 时间:2024/04/30 00:14:34
用信利107A计算器:
811/255的结果开20次方,得到1.059946863

811/255的结果开20次方,减1,得到0.059946862
最后一位一个是3,一个是2?

下面是33精度的计算结果。
811/255的结果开20次方=
1.059556289256788370282261652764

811/255的结果开20次方,减1
0.059556289256788370282261652763988

用信利107A计算器的计算精度为9位。

四舍五入嘛

是计算器程序的问题

我的CASIO fx-991ms 得到的是 1.059556289

我的ENKO KK-105B得到的是 1.059556289