MySQL浮点型舍入

Question

我的表中有类型为float(12,2)的列。为什么在insert操作过程中，数字1399999.05被舍入为1399999.00？据我所知，如果数字的位数大于float描述中的设置，它会对数字进行四舍五入。但我的号码肯定只有两位数。MySQL版本- 5.7

Answer 1

这里需要DOUBLE数据类型。FLOAT只允许大约七位有效的小数位精度。文本字符串1399999.05和1399999.00表示的数字在转换为IEEE 32-bit FLOAT values时彼此无法区分。

MySQL忽略FLOAT、DOUBLE、INT (和TINYINT、SMALLINT、BIGINT)数据类型的精度规范。相反，它使用原生数据类型。MySQL遵守小数数据的精度规范。

在您的情况下，您的精度规格是(12,2)。

请考虑阅读以下内容：What Every Computer Scientist Should Know About Floating Point Numbers。

而且，当你失去精确度时可能会出什么问题，你需要的提示是，read this。