作文档>生活经验>其他

什么是截位法

更新时间:

  截位法指在精度要求允许的范围内,将计算过程当中的数字进行截位,即只计算其中的一位或者几位数,从而得到足够精度的计算结果的方法。截位法是将多位数化成简单的数据计算,因此需要将数据进行近似的运算,在进行运算时,通常需要对数据进行“四舍五入”的近似运算。截位法可以应用在求和运算中,也可以应用在乘除运算中,所以一般将截位法分为加减截位和乘除截位,但是不管怎么分类,截位的原理是一样的。


什么是截位法相关文章:

什么是C位呢

什么是十念法

什么是自动聚焦法

什么是极差法

什么是归一法

什么是部分分式法

什么是平皿法

什么是微分电容法

什么是超越十法界

什么是因素替代法

什么是截位法

截位法指在精度要求允许的范围内,将计算过程当中的数字进行截位,即只计算其中的一位或者几位数,从而得到足够精度的计算结果的方法。截位法是将多位数化成简单的数据计算...
推荐度:
点击下载文档文档为doc格式

精选图文