在php中file_get_contents与curl()函数都可以用来抓取对方网站的数据并保存到本地服务器中,但是总得来讲file_get_contents()效率稍低些,常用失败的情况、curl()效率挺高的,支持多线程,不过需要开启下curl扩展,也就是说要使用curl函数就必须要打开curl扩展了,而file_get_contents函数系统是默认的。

下面是curl扩展开启的步骤：

1、将PHP文件夹下的三个文件php_curl.dll,libeay32.dll,ssleay32.dll复制到system32下; 

2、将php.ini(c:WINDOWS目录下)中的;extension=php_curl.dll中的分号去掉;

3、重启apache或者IIS。

我们先来看看两个函数的简单实例.

curl()函数,代码如下:

1. $ch = curl_init("http://www.phpfensi.com/"); 
2. curl_exec($ch); 
3. curl_close($ch); 
4. //$ch = curl_init("要采集的网址");  curl_init()函数的作用初始化一个curl会话 
5. //curl_exec($ch);执行$ch 
6. //curl_close($ch); 关闭$ch 

file_get_contents函数,代码如下:

1. <?php 
2. echo file_get_contents("http://www.phpfensi.com"); 
3. ?> 
4. //输出：This is a test file with test text. 

总结:fopen / file_get_contents 每次请求都会重新做DNS查询,并不对DNS信息进行缓存,但是CURL会自动对DNS信息进行缓存,对同一域名下的网页或者图片的请求只需要一次DNS查询,这大大减少了DNS查询的次数,所以CURL的性能比fopen / file_get_contents 好很多。

file_get_contents与curl效率及稳定性问题,代码如下:

1. $config['context'] = stream_context_create(array('http' => array('method' => "GET",'timeout' => 5)));   
2. 'timeout' => 5 

这个超时时间不稳定,经常不好使,这时候,看一下服务器的连接池,会发现一堆类似下面的错误,让你头疼万分,代码如下:

file_get_contents(http://***): failed to open stream… 

不得已,安装了curl库,写了一个函数替换,代码如下:

1. function curl_get_contents($url)    
2. {    
3.    $ch = curl_init();    
4.    curl_setopt($ch, CURLOPT_URL, $url);            //设置访问的url地址    
5.    //curl_setopt($ch,CURLOPT_HEADER,1);            //是否显示头部信息   
6.    curl_setopt($ch, CURLOPT_TIMEOUT, 5);           //设置超时    
7.    curl_setopt($ch, CURLOPT_USERAGENT, _USERAGENT_);   //用户访问代理 User-Agent    
8.    curl_setopt($ch, CURLOPT_REFERER,_REFERER_);        //设置 referer    
9.     curl_setopt($ch,CURLOPT_FOLLOWLOCATION,1);      //跟踪301    
10.     curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);        //返回结果    
11.     $r = curl_exec($ch);    
12.     curl_close($ch);    
13.     return $r;    
14. }  

如此,除了真正的网络问题外,没再出现任何问题,这是别人做过的关于curl和file_get_contents的测试,file_get_contents抓取google.com需用秒数,代码如下:

1.2.31319094   

2.2.30374217   

3.2.21512604   

4.3.30553889   

5.2.30124092 

curl使用的时间：

1.0.68719101   

2.0.64675593   

3.0.64326   

4.0.81983113

5.0.63956594

那么如何根据服务器情况来使用file_get_contents还是curl()呢,下面我们可以利用function_exists函数来判断php是否支持一个函数可以轻松写出下面函数,代码如下:

1. <?php  
2.  function vita_get_url_content($url) {  
3.  if(function_exists('file_get_contents')) {  
4.  $file_contents = file_get_contents($url);  
5.  } else {  
6.  $ch = curl_init();  
7.  $timeout = 5;   
8.  curl_setopt ($ch, CURLOPT_URL, $url);  
9.  curl_setopt ($ch, CURLOPT_RETURNTRANSFER, 1);   
10.  curl_setopt ($ch, CURLOPT_CONNECTTIMEOUT, $timeout);  
11.  $file_contents = curl_exec($ch);  
12.  curl_close($ch);  
13.  }  
14.  return $file_contents;  
15.  }  
16.  ?> 

Tags: file_get_contents curl 函数

分享到：