舍入误差
(数学 | 信息通讯)
由于计算机的字长有限,进行数值计算的过程中,对计算得到的中间结果数据要使用"四舍五入"或其他规则取近似值,因而使计算过程有误差。这种误差称为舍入误差。
加载更多
领域
提 交
信息通讯
天文
海洋科学
数值分析
大气科学
电气
地球科学
物理
地理
数学
词条相关
词条 主页
》
词条 科普
》
词条 事件
》
词条 题库
》
词条 知识
》