changgouliuyue5的个人博客分享 http://blog.sciencenet.cn/u/changgouliuyue5

博文

MATLAB双精度向下取整问题

已有 2637 次阅读 2016-11-14 16:42 |系统分类:科研笔记

MATLAB中在使用floor函数的时候会遇到双精度向下取整要比实际数值小 1 的问题。比如双精度的a=49.9/0.1, 如果使用floor(a),那么得到的结果是498,这时如果使用floor(single(a))则可以成功得到499.不知道为什么。

IDL也有类似问题。



https://blog.sciencenet.cn/blog-767575-1014743.html

上一篇:ultraedit宏&不打开文件替换字符&删除文件多余空行
收藏 IP: 210.72.80.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-3-2 10:36

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部