加入收藏 | 设为首页 | 会员中心 | 我要投稿 草根网 (https://www.1asp.com.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 教程 > 正文

php蜘蛛 爬取采集文章,php 抓取蜘蛛爬虫痕迹的代码分享

发布时间:2022-11-09 12:41:41 所属栏目:教程 来源:
导读:  本文介绍下php采集类,php实现抓取蜘蛛爬虫痕迹的一段代码,有需要的朋友参考下。

  用php代码分析web日志中蜘蛛爬虫痕迹,代码如下:

  'googlebot',

  'Baidu' => 'bai
  本文介绍下php采集类,php实现抓取蜘蛛爬虫痕迹的一段代码,有需要的朋友参考下。
 
  用php代码分析web日志中蜘蛛爬虫痕迹,代码如下:
 
  'googlebot',
 
  'Baidu' => 'baiduspider',
 
  'Yahoo' => 'yahoo slurp',
 
  'Soso' => 'sosospider',
 
  'Msn' => 'msnbot',
 
  'Altavista' => 'scooter ',
 
  'Sogou' => 'sogou spider',
 
  'Yodao' => 'yodaobot'
 
  );
 
  $userAgent = strtolower($_SERVER['HTTP_USER_AGENT']);
 
  foreach ($bots as $k => $v){
 
  if (strstr($v,$userAgent)){
 
  return $k;
 
  break;
 
  }
 
  }
 
  return false;
 
  } //by bbs.it-home.org
 
  //获取哪种蜘蛛爬虫后保存蜘蛛痕迹。
 

(编辑:草根网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章