我算故我在分享 http://blog.sciencenet.cn/u/metanb

博文

误差图案

已有 2272 次阅读 2012-6-18 23:32 |个人分类:幽默搞笑|系统分类:生活其它

某种涉及数值积分的计算中,高斯点取10位和16位,对两种结果做差的后果。
(是在1e-14的尺度上自然出现的哦~)


http://blog.sciencenet.cn/blog-315774-583541.html

上一篇:教科书
下一篇:免息贷款

1 姬扬

该博文允许注册用户评论 请点击登录 评论 (3 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2021-1-22 12:38

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部