小溪办事直播今晚:vb中double类型的最大值是多少?为什么我只能计算100000000以内的数值,再大就说溢出了?

来源:百度文库 编辑:高考问答 时间:2024/04/27 10:43:57
Private Sub Command1_Click()
Dim y As Double
y = 100000000 * 123
Text1.Text = CStr(y)
End Sub

以上的程序就会溢出,如果改为y=100000000*12就不会溢出

你试试y =cdbl(100000000) * 123
因为100000000本身不是double型,*123之后的结果的数据类型首先是继承100000000的然后再赋值给y。
先把100000000转化成double类型之后,就可以直接得到double的结果,就不会溢出了

可表示最多15位有效数字
为什么会溢出就要看到你的程序再说了

VB中的double类型的最大值是1E+308