您的位置:逆风者 VB 正文
原作者:www.upwinder.com 添加时间:2007-09-12 原文发表:2007-08-31 人气:16 来源:未知

来自微软的资料鼓吹:高级优化对话框中的所有编译选项都被认为是不稳定的,它们可能导致不正确的结果,甚至程序崩溃。对于其中的大多数,这种说法是正确的,但是经常有一个叫做"Allow Unrounded Floating Point Operations"的选项能够给予正确的结果,防止应用程序产生bug。考虑下面的代码段:
逆@风@者

Dim x As Double, y As Double, i As Integer

x = 10 ^ 18

y = x 1 ' this can't be expressed with 64 bits

MsgBox (y = x) ' 显示 "True" (不正确的结果)


严格地说,由于X和Y变量不包含相同的数值,MsgBox将显示False。可问题是,由于数值1E18与1E18+1都以相同的64位浮点Double类型来表示,它们最终包含了几乎相同的数值,最后的MsgBox结果将是True。

如果打开了"Allow Unrounded Floating Point Operations"编译选项,VB就能重用已在数学协处理器堆栈中的数值,而不是内存中的数值(比如:变量)。因为FPU堆栈具备80位的精度,因此就可以区分出这2个数值的不同:


' if the program is compiled using the

' "Allow Unrounded Floating Point Operations" compiler option

MsgBox (y = x) ' 显示 "False" (正确的结果)


总结一下:当以解释模式、或者编译的p-code模式、或者编译的native代码模式但关掉"Allow Unrounded Floating Point Operations"选项这3种方式运行一个程序时,所有浮点数字运算在内部都以80位的精度进行处理。但如果有一个数值是存储在64位Double变量中,结果就是接近的了,并且,随后使用那个变量的表达式也将产生近似的结果,而不是绝对正确的结果。

相反,如果打开"Allow Unrounded Floating Point Operations"编译选项后运行一段native编译代码,在随后的表达式中VB就经常能重用内部的80位数值,而忽略存储在变量中的当前数值。注意:我们并不能完全控制这个功能,VB也许对此生效,也许就不生效,这要取决于表达式的复杂程度以及最初分配数值语句与随后产生结果的表达式语句的距离远近。

相关文章

固定长度字符串数组:赋值快,释放快!
快速清除数组部分内容
创建新表时,快速拷贝字段
用InStr函数实现代码减肥
静态变量慢于动态变量
And、Or和Xor:让我们来优化表达式
创建任意长度重复字符串的简洁方法
使用 $-类型 字符串函数会更快
为常量定义合适的类型
火眼识破隐藏的Variant变量
重定义编译DLL文件的基地址
使用ObjPtr检测2个对象变量是否指向同一对象
使用Objptr函数快速查找集合中的对象
Visual Basic代码优化的六条军规
VB“变态”用法之高效字串指针类
如何去优化你的VB程序
字体对象克隆招法
Friend过程快于Public过程
如何编写高质量的VB代码
提高Visual Basic访问数据库效率

相关评论


本文章所属分类:首页 VB

  热门关键字: