数值计算误差初步理解及简单分析

    在线阅读 下载PDF 导出详情
    摘要 介绍了数值计算中的误差类别,用数学表达式举例,说明了截断误差,根据IEEE754标准用数学表达式说明了舍入误差;并对截断误差与舍入误差进行了简单的分析;最后给出了数值计算中应注意的事项。
    机构地区 不详
    出处 《地理空间信息》 2011年3期
    出版日期 2011年03月13日(中国Betway体育网页登陆平台首次上网日期,不代表论文的发表时间)
    • 相关文献
    Baidu
    map