A-A+

IEEE754标准中的舍入模式可以用于二进制数也可以用于十进制数 在采用舍入到最接近且可表示

2022-08-12 12:45:33 问答库 阅读 196 次

问题详情

IEEE754标准中的舍入模式可以用于二进制数也可以用于十进制数,在采用舍入到最接近且可表示的值时,若要舍入成两个有效数字形式,(12.5)D应该舍入为()。
A.11
B.13
C.12
D.10

请帮忙给出正确答案和分析,谢谢!

参考答案

正确答案:C
由于最后一位是5,而要使结果中最小有效位数是偶数,那么向下舍入为12。

考点:表示,模式