||
遇到了IDL的数据类型使用错误导致程序报错,以此来记录一下 以防下次再出错。注:下面的博文为转载其他地方(附上网页链接)http://blog.sina.com.cn/s/blog_95882f710102x7ec.html
有时idl在运算过程中会出现
1、 %Program caused arithmetic error: Floating overflow:因为浮点溢出,使用!except=2 可以检测错误的所在,之后检查数据类型,将float改为double解决.
2、%Program caused arithmetic error: Floating illegal operand :可能由于浮点数太小,四舍五入后为0,并且做了除法导致,也可能是在无格式的二进制数据中混用了float和double 导致。
3、% Program caused arithmetic error: Floating divide by 0:遇到了0做分母的情况,导致inf
对于数据类型精度的描述,请参考上述网页。
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2024-12-22 18:45
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社