jackongpoor的个人博客分享 http://blog.sciencenet.cn/u/jackongpoor

博文

fortran real类型 除法陷阱

已有 1732 次阅读 2018-12-4 19:25 |个人分类:计算材料|系统分类:科研笔记

最近一周,使用gfortran处理相变问题,所有的逻辑都是正确的,可是结果却出人意料。经过几天的排查,发现python和matlab不会出现这个问题,于是就把问题定位到fortran 浮点类型精度的问题。

在使用real类型时,注意:

  1. 大数+小数的问题,比如 0.1+1000000000=???

  2. 0.0/小数= 0?


最后采取规避措施,把问题解决。


欢迎指正。



http://blog.sciencenet.cn/blog-306573-1149844.html


下一篇:How to get the high-k (K, M) point in honeycomb lattice

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2020-2-22 23:03

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部