XiongxinXiao的个人博客分享 http://blog.sciencenet.cn/u/XiongxinXiao

博文

IDL数据类型错误

已有 7084 次阅读 2019-2-26 10:03 |系统分类:科研笔记| IDL

遇到了IDL的数据类型使用错误导致程序报错,以此来记录一下 以防下次再出错。注:下面的博文为转载其他地方(附上网页链接)http://blog.sina.com.cn/s/blog_95882f710102x7ec.html


有时idl在运算过程中会出现

1、 %Program caused arithmetic error: Floating overflow:因为浮点溢出,使用!except=2 可以检测错误的所在,之后检查数据类型,将float改为double解决.

 2、%Program caused arithmetic error: Floating illegal operand :可能由于浮点数太小,四舍五入后为0,并且做了除法导致,也可能是在无格式的二进制数据中混用了float和double 导致。

3、% Program caused arithmetic error: Floating divide by 0:遇到了0做分母的情况,导致inf


对于数据类型精度的描述,请参考上述网页。





https://blog.sciencenet.cn/blog-1109904-1164289.html

上一篇:[转载]python处理HDF4的数据
下一篇:Anaconda下安装basemap的问题时 keyError: \'PROJ_LIB\' 报错
收藏 IP: 47.75.241.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-4-18 11:31

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部