单选题
在科学计算时，经常会遇到“溢出”，这是指_______。
A、
计算机出故障了
B、
数值超出了内存范围
C、
数值超出了变量的表示范围
D、
数值超出了机器所表示的范围
【正确答案】
D
【答案解析】
科学计算中的溢出，更多强调数值太大，使得机器(CPU)都无法承受的情况。当运算结果超出其表示范围时，会产生不正确的结果，这就是溢出的实质。
提交答案
关闭