当前位置:首页 > PHP教程 > php应用 > 列表

php快速导入大量数据的实例方法

发布:smiling 来源: PHP粉丝网  添加日期:2021-12-20 10:56:25 浏览: 评论:0 

在本篇文章里小编给大家分享的是关于php如何快速导入大量数据的相关知识点内容,需要的朋友们学习下。

PHP快速导入大量数据到数据库的方法

第一种方法:使用insert into 插入,代码如下:

  1. $params = array(‘value'=>'50′); 
  2.  
  3.    
  4.  
  5. set_time_limit(0); 
  6.  
  7.    
  8.  
  9. echo date(“H:i:s”); 
  10.  
  11.    
  12.  
  13. for($i=0;$i<2000000;$i++){ 
  14.  
  15.    
  16.  
  17. $connect_mysql->insert($params); 
  18.  
  19.    
  20.  
  21. }; 
  22.  
  23. echo date(“H:i:s”); 

最后显示为:23:25:05 01:32:05 也就是花了2个小时多!

第二种方法:使用事务提交,批量插入数据库(每隔10W条提交下)最后显示消耗的时间为:22:56:13 23:04:00 ,一共8分13秒 ,代码如下:

  1. echo date(“H:i:s”); 
  2.  
  3.    
  4.  
  5. $connect_mysql->query(‘BEGIN'); 
  6.  
  7.    
  8.  
  9. $params = array(‘value'=>'50′); 
  10.  
  11.    
  12.  
  13. for($i=0;$i<2000000;$i++){ 
  14.  
  15.    
  16.  
  17. $connect_mysql->insert($params); 
  18.  
  19.    
  20.  
  21. if($i%100000==0){ 
  22.  
  23.    
  24.  
  25. $connect_mysql->query(‘COMMIT'); 
  26.  
  27.    
  28.  
  29. $connect_mysql->query(‘BEGIN'); 
  30.  
  31.    
  32.  
  33.  
  34.    
  35.  
  36.  
  37.    
  38.  
  39. $connect_mysql->query(‘COMMIT'); 
  40.  
  41.    
  42.  
  43. echo date(“H:i:s”); 

第三种方法:使用优化SQL语句

将SQL语句进行拼接,使用 insert into table () values (),(),(),()然后再一次性插入,如果字符串太长,则需要配置下MYSQL,

在mysql命令行中运行 :

set global max_allowed_packet = 2*1024*1024*10;

消耗时间为:11:24:06 11:25:06;

插入200W条测试数据仅仅用了1分钟!代码如下:

  1. $sql= “insert into twenty_million (value) values”; 
  2.  
  3.    
  4.  
  5. for($i=0;$i<2000000;$i++){ 
  6.  
  7.    
  8.  
  9. $sql.=”('50′),”; 
  10.  
  11.    
  12.  
  13. }; 
  14.  
  15.    
  16.  
  17. $sql = substr($sql,0,strlen($sql)-1); 
  18.  
  19.    
  20.  
  21. $connect_mysql->query($sql); 

总结:在插入大批量数据时,第一种方法无疑是最差劲的,而第二种方法在实际应用中就比较广泛,第三种方法在插入测试数据或者其他低要求时比较合适,速度确实快。

Tags: php快速导入大量数据

分享到: