|
|||||
|
|
| 浮点类型有效位数计算与应用分析 | |
| 引用本文： | 肖红德.浮点类型有效位数计算与应用分析[J].教育技术导刊,2019,18(4):50-56. |
| 作者姓名： | 肖红德 |
| 作者单位： | 1. 河南大学 民生学院；2. 河南大学 数学与统计学院，河南 开封 475004 |
| 摘 要： | 为弄清浮点类型数据在应用中存在“异常”现象的原因，研究了浮点类型数据在内存中的存储形式，得到与其在内存中存储规范一致的结果。分析浮点类型数据在内存中存储形式对应的理论区间并进行实验验证，得出浮点类型数据的精度（对于规范化浮点类型数据，float类型有效位数为6～8位，double类型有效位数为15～17位），进而对浮点类型数据在应用中的一些异常现象进行合理解释，比如“大数吃小数”、输出格式控制以及输出结果与预期不一致等。通过对浮点类型数据在计算机内存中表达形式的理论分析和实验验证，实现对实际数据进行离散化处理，为计算机内存中的表示和相关计算带来帮助。 |
| 关 键 词： | 浮点类型 有效位数 存储单元 数制转换 不精确表示 |
| 点击此处可从《教育技术导刊》浏览原始摘要信息 | |
| 点击此处可从《教育技术导刊》下载免费的PDF全文 | |