Mysql的浮点精确度


1.mysql的用于记录小数的类型有三个float ,decimal 和double他们之间的关系

先创建一个表test都用了float ,decimal 和double


插入一条数据查看发现没有发现精度丢失问题


再插入一条数据,发现精度损失:


查看三个类型的范围:


插入小数的位数多的话会进行四舍五入,不会给出警告或者插入不进去的情况:


插入位数多点的,发现float精度损失更加严重而decimal精度没有损失:


这就是浮点数的不精确性造成的。

在mysql中float、double(或real)是浮点数,decimal(或numberic)是定点数。

浮点数相对于定点数的优点是在长度一定的情况下,浮点数能够表示更大的数据范围;它的缺点是会引起精度问题。

在今后关于浮点数和定点数的应用中,大家要记住以下几点:

   1、浮点数存在误差问题;

   2、对货币等对精度敏感的数据,应该用定点数表示或存储;

   3、编程中,如果用到浮点数,要特别注意误差问题,并尽量避免做浮点数比较;

   4、要注意浮点数中一些特殊值的处理。













注意!

本站转载的文章为个人学习借鉴使用,本站对版权不负任何法律责任。如果侵犯了您的隐私权益,请联系我们删除。



 
  © 2014-2022 ITdaan.com 联系我们: