mysql下float类型一些误差详解
发布:smiling 来源: PHP粉丝网 添加日期:2014-10-10 14:48:52 浏览: 评论:0
我想很多朋友都不怎么会在mysql中使用float类型,特别是用到金钱时我们可能会用双精度来做,我们知道mysql的float类型是单精度浮点类型不小心就会导致数据误差
单精度浮点数用4字节(32bit)表示浮点数,采用IEEE754标准的计算机浮点数,在内部是用二进制表示的,如:7.22用32位二进制是表示不下的,所以就不精确了。
mysql中float数据类型的问题总结
对于单精度浮点数Float:当数据范围在±131072(65536×2)以内的时候,float数据精度是正确的,但是超出这个范围的数据就不稳定,没有发现有相关的参数设置建议:将float改成double或者decimal,两者的差别是double是浮点计算,decimal是定点计算,会得到更精确的数据。
1.float类型
float列类型默认长度查不到结果,必须指定精度,比如 num float, insert into table (num) values (0.12); select * from table where num=0.12的话,empty set,代码如下:
- num float(9,7), insert into table (num) values (0.12); select * from table where num=0.12的话会查到这条记录。
- mysql> create table tt
- -> (
- -> num float(9,3)
- -> );
- Query OK, 0 rows affected (0.03 sec)
- mysql> insert into tt(num)values(1234567.8);
- ERROR 1264 (22003): Out of range value for column 'num' at row 1
注:超出字段范围,无法插入,代码如下:
- mysql> insert into tt(num)values(123456.8);
- Query OK, 1 row affected (0.00 sec)
- mysql> select * from tt;
- +------------+
- | num |
- +------------+
- | 123456.797 |
- +------------+
- 1 row in set (0.00 sec)
注:小数位数不够,自动补齐,但是存在一个问题就是如上的近似值,代码如下:
- mysql> insert into tt(num)values(123456.867);
- Query OK, 1 row affected (0.04 sec)
- mysql> select * from tt;
- +------------+
- | num |
- +------------+
- | 123456.797 |
- | 123456.797 |
- | 123456.867 |
- +------------+
- 3 rows in set (0.00 sec)
- mysql> select * from tt where num=123456.867;
- +------------+
- | num |
- +------------+
- | 123456.867 |
- +------------+
- 1 row in set (0.00 sec)
- mysql> insert into tt(num)values(2.8);
- Query OK, 1 row affected (0.04 sec)
- mysql> select * from tt;
- +------------+
- | num |
- +------------+
- | 123456.797 |
- | 123456.797 |
- | 123456.867 |
- | 2.800 |
- +------------+
- 4 rows in set (0.00 sec)
- mysql> select * from tt where num=2.8;
- +-------+
- | num |
- +-------+
- | 2.800 |
- +-------+
- 1 row in set (0.00 sec)
- mysql> insert into tt(num)values(2.888888);
- Query OK, 1 row affected (0.00 sec)
- --phpfensi.com
- mysql> select * from tt;
- +------------+
- | num |
- +------------+
- | 123456.797 |
- | 123456.797 |
- | 123456.867 |
- | 2.800 |
- | 2.889 |
- +------------+
- 5 rows in set (0.00 sec)
注:小数位数超了,自动取近似值.
一、浮点数的概念及误差问题
浮点数是用来表示实数的一种方法,它用 M(尾数) * B( 基数)的E(指数)次方来表示实数,相对于定点数来说,在长度一定的情况下,具有表示数据范围大的特点,但同时也存在误差问题,这就是著名的浮点数精度问题,浮点数有多种实现方法,计算机中浮点数的实现大都遵从 IEEE754 标准,IEEE754 规定了单精度浮点数和双精度浮点数两种规格,单精度浮点数用4字节(32bit)表示浮点数,格式是:1位符号位 8位表示指数 23位表示尾数,双精度浮点数8字节(64bit)表示实数,格式是:1位符号位 11位表示指数 52位表示尾数.
Tags: mysql误差 float类型
相关文章
- ·mysql中sum float类型出现小数点解决方法(2014-09-28)
推荐文章
热门文章
最新评论文章
- 写给考虑创业的年轻程序员(10)
- PHP新手上路(一)(7)
- 惹恼程序员的十件事(5)
- PHP邮件发送例子,已测试成功(5)
- 致初学者:PHP比ASP优秀的七个理由(4)
- PHP会被淘汰吗?(4)
- PHP新手上路(四)(4)
- 如何去学习PHP?(2)
- 简单入门级php分页代码(2)
- php中邮箱email 电话等格式的验证(2)