当前位置:首页 > PHP教程 > php高级应用 > 列表

php使用pthreads v3多线程实现抓取新浪新闻信息操作示例

发布:smiling 来源: PHP粉丝网  添加日期:2022-02-13 12:49:04 浏览: 评论:0 

本文实例讲述了php使用pthreads v3多线程实现抓取新浪新闻信息,分享给大家供大家参考,具体如下:

我们使用pthreads,来写一个多线程的抓取页面小程序,把结果存到数据库里。

数据表结构如下:

  1. CREATE TABLE `tb_sina` ( 
  2.  `id` int(11) unsigned NOT NULL AUTO_INCREMENT COMMENT 'ID'
  3.  `url` varchar(256) DEFAULT '' COMMENT 'url地址'
  4.  `title` varchar(128) DEFAULT '' COMMENT '标题'
  5.  `time` datetime DEFAULT NULL ON UPDATE CURRENT_TIMESTAMP COMMENT '时间'
  6.  PRIMARY KEY (`id`) 
  7. ) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COMMENT='sina新闻'

代码如下:

  1. <?php 
  2.  
  3. class DB extends Worker 
  4.   private static $db
  5.   private $dsn
  6.   private $root
  7.   private $pwd
  8.  
  9.   public function __construct($dsn$root$pwd
  10.   { 
  11.     $this->dsn = $dsn
  12.     $this->root = $root
  13.     $this->pwd = $pwd
  14.   } 
  15.  
  16.   public function run() 
  17.   { 
  18.     //创建连接对象 
  19.     self::$db = new PDO($this->dsn, $this->root, $this->pwd); 
  20.  
  21.     //把require放到worker线程中,不要放到主线程中,不然会报错找不到类 
  22.     require './vendor/autoload.php'
  23.   } 
  24.  
  25.   //返回一个连接资源 
  26.   public function getConn() 
  27.   { 
  28.     return self::$db
  29.   } 
  30.  
  31. class Sina extends Thread 
  32.   private $name
  33.   private $url
  34.  
  35.   public function __construct($name$url
  36.   { 
  37.     $this->name = $name
  38.     $this->url = $url
  39.   } 
  40.  
  41.   public function run() 
  42.   { 
  43.     $db = $this->worker->getConn(); 
  44.  
  45.     if (emptyempty($db) || emptyempty($this->url)) { 
  46.       return false; 
  47.     } 
  48.  
  49.     $content = file_get_contents($this->url); 
  50.     if (!emptyempty($content)) { 
  51.       //获取标题,地址,时间 
  52.       $data = QL\QueryList::Query($content, [ 
  53.         'tit' => ['.c_tit > a''text'], 
  54.         'url' => ['.c_tit > a''href'], 
  55.         'time' => ['.c_time''text'], 
  56.       ], '''UTF-8''GB2312')->getData(); 
  57.  
  58.       //把获取的数据插入数据库 
  59.       if (!emptyempty($data)) { 
  60.         $sql = 'INSERT INTO tb_sina(`url`, `title`, `time`) VALUES'
  61.         foreach ($data as $row) { 
  62.           //修改下时间,新浪的时间格式是这样的04-23 15:30 
  63.           $time = date('Y') . '-' . $row['time'] . ':00'
  64.           $sql .= "('{$row['url']}', '{$row['tit']}', '{$time}'),"
  65.         } 
  66.         $sql = rtrim($sql','); 
  67.         $ret = $db->exec($sql); 
  68.  
  69.         if ($ret !== false) { 
  70.           echo "线程{$this->name}成功插入{$ret}条数据\n"
  71.         } else { 
  72.           var_dump($db->errorInfo()); 
  73.         } 
  74.       } 
  75.     } 
  76.   } 
  77.  
  78. //抓取页面地址 
  79. $url = 'http://roll.news.sina.com.cn/s/channel.php?ch=01#col=89&spec=&type=&ch=01&k=&offset_page=0&offset_num=0&num=60&asc=&page='
  80. //创建pool池 
  81. $pool = new Pool(5, 'DB', ['mysql:dbname=test;host=192.168.33.226''root''']); 
  82.  
  83. //获取100个分页数据 
  84. for ($ix = 1; $ix <= 100; $ix++) { 
  85.   $pool->submit(new Sina($ix$url . $ix)); 
  86.  
  87. //循环收集垃圾,阻塞主线程,等待子线程结束 
  88. while ($pool->collect()) ; 
  89. $pool->shutdown(); 

由于使用到了QueryList,大家可以通过composer进行安装。

composer require jaeger/querylist

不过安装的版本是3.2,在我的php7.2下会有问题,由于each()已经被废弃,所以修改下源码,each()全换成foreach()就好了。

运行结果如下:

php使用pthreads v3多线程实现抓取新浪新闻信息操作示例

数据也保存进了数据库

php使用pthreads v3多线程实现抓取新浪新闻信息操作示例

当然大家也可以再次通过url,拿到具体的页面内容,这里就不做演示了,有兴趣的可以自已去实现。

Tags: pthreads php多线程

分享到: