期刊文献+

计算机浮点数算术运算的舍入误差研究 被引量:7

Rounding error study of calculator floating-point numbers arithmetic operation
下载PDF
导出
摘要 对计算机浮点数算术运算的舍入误差进行分析,是对数值计算方法作误差分析的基础。论文全面研究了计算机浮点数算术运算的舍入误差的基本理论,对有关结论均作了严格的论证。并举例说明由算术运算的误差界,可建立较复杂运算的误差界。还研究了向前误差分析和向后误差分析的要点。推广上述结果,对矩阵基本运算的舍入误差进行了估计。 To analyze the rounding error of calculator floating-point numbers arithmetic operation is the foundation of numerical calculation method’s error analysis. This paper studies roundly the basic theories of rounding error of calculator floating-point numbers arithmetic operation and demonstrates the related conclusions. It also illustrates with examples that the error margin calculated by arithmetic operation can establish more complicated calculation error margin.This paper still studies the mains of the forward error analysis and backward error analysis. By generalizing the above results, the paper estimates the rounding error of matrix basic calculation.
出处 《成都理工大学学报(自然科学版)》 CAS CSCD 北大核心 2005年第2期213-216,共4页 Journal of Chengdu University of Technology: Science & Technology Edition
关键词 浮点数系统 舍入误差 机器精度 向后误差分析 floating-point number system rounding error machine accuracy backward error analysis
  • 相关文献

参考文献2

  • 1冯果枕 刘经伦.数值代数基础[M].长春:吉林大学出版社,1991..
  • 2Gene H Golub, Charles F Van Loan. Matrix Computations(third edition)[M]. Johns Hopkins University press, 1996.

同被引文献48

引证文献7

二级引证文献8

相关作者

内容加载中请稍等...

相关机构

内容加载中请稍等...

相关主题

内容加载中请稍等...

浏览历史

内容加载中请稍等...
;
使用帮助 返回顶部