作文档>生活经验>其他

计算机浮点运算速度是什么意思

更新时间:

  浮点运算就是实数运算,因为计算机只能存储整数,所以实数都是约数,因此浮点运算很慢,而且会有误差。

  浮点运算性能可以直观地反映一台计算机的计算能力,真正对浮点要求高的是视频压缩,场景的渲染,光散射的计算等,浮点运算不需要太多的缓存,缓存是用来存放中间数据的,浮点运算要求尽可能的即时完成。

  相反,分支预测对缓存要求很高,需要存储很多东西以供判断。


计算机浮点运算速度是什么意思相关文章:

计算机浮点运算速度是什么意思

浮点运算就是实数运算,因为计算机只能存储整数,所以实数都是约数,因此浮点运算很慢,而且会有误差。浮点运算性能可以直观地反映一台计算机的计算能力,真正对浮点要求高...
推荐度:
点击下载文档文档为doc格式

精选图文