请教二次开发高手

只看该作者 · 发表于 2005-7-15 08:27:22

马上注册，结交更多同行朋友，交流，分享，学习。

您需要登录才可以下载或查看，没有帐号？注册

x

我是用VB进行二次开发的，在用它读取soliworks零件尺寸时总有几个尺寸出现拾叁位小数如：23.9999999999998，请问那位仁兄知道是怎么回事。

只看该作者 · 发表于 2005-7-16 22:21:14

据说可以通过改变尺寸的精度来实现，我试了还是不行啊，晕！

只看该作者 · 发表于 2005-7-17 10:08:07

font123 wrote:
据说可以通过改变尺寸的精度来实现，我试了还是不行啊，晕！

是不是声明变量精度太高了，降一个等级。比如把双精度变量改为单精度的，读取变量负值的时候会自动四舍五入。

不行就自己用程序作四舍五入，这个不难把。不用那么多位小数的吧，加工的时候一般只有一位小数，公差一般两位小数就够了。数控也最多再多上一两位精度吧（花大银子作为代价），多了没意义。所以做程序的时候相应的多取1-2位小数就行了

只看该作者 · 发表于 2005-7-17 10:59:20

感谢回复，方法可行。谢谢！

只看该作者 · 发表于 2005-7-17 11:32:02

我原来设置变量的类型为Double，换成Single就行了，再次感谢！

只看该作者 · 发表于 2005-7-17 14:23:11

呵呵，笨笨学习VB的时候自己做计算器程序，碰到过这个问题。没想到今天学SW还会有用