php判断来访者是否是搜索引擎的蜘蛛

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了php判断来访者是否是搜索引擎的蜘蛛相关的知识,希望对你有一定的参考价值。

我们可以通过HTTP_USER_AGENT来判断是否是蜘蛛,搜索引擎的蜘蛛都有自己的独特标志,下面列取了一部分。
function is_crawler() {
    $userAgent = strtolower($_SERVER[‘HTTP_USER_AGENT‘]);
    $spiders = array(
        ‘Googlebot‘, // Google 爬虫
        ‘Baiduspider‘, // 百度爬虫
        ‘Yahoo! Slurp‘, // 雅虎爬虫
        ‘YodaoBot‘, // 有道爬虫
        ‘msnbot‘ // Bing爬虫
        // 更多爬虫关键字
    );
    foreach ($spiders as $spider) {
        $spider = strtolower($spider);
        if (strpos($userAgent, $spider) !== false) {
            return true;
        }
    }
    return false;
}


下面的php代码附带了更多的蜘蛛标识
function isCrawler() {
        echo $agent= strtolower($_SERVER[‘HTTP_USER_AGENT‘]);
        if (!empty($agent)) {
                $spiderSite= array(
                        "TencentTraveler",
                        "Baiduspider+",
                        "BaiduGame",
                        "Googlebot",
                        "msnbot",
                        "Sosospider+",
                        "Sogou web spider",
                        "ia_archiver",
                        "Yahoo! Slurp",
                        "YoudaoBot",
                        "Yahoo Slurp",
                        "MSNBot",
                        "Java (Often spam bot)",
                        "BaiDuSpider",
                        "Voila",
                        "Yandex bot",
                        "BSpider",
                        "twiceler",
                        "Sogou Spider",
                        "Speedy Spider",
                        "Google AdSense",
                        "Heritrix",
                        "Python-urllib",
                        "Alexa (IA Archiver)",
                        "Ask",
                        "Exabot",
                        "Custo",
                        "OutfoxBot/YodaoBot",
                        "yacy",
                        "SurveyBot",
                        "legs",
                        "lwp-trivial",
                        "Nutch",
                        "StackRambler",
                        "The web archive (IA Archiver)",
                        "Perl tool",
                        "MJ12bot",
                        "Netcraft",
                        "MSIECrawler",
                        "WGet tools",
                        "larbin",
                        "Fish search",
                );
                foreach($spiderSite as $val) {
                        $str = strtolower($val);
                        if (strpos($agent, $str) !== false) {
                                return true;
                        }
                }
        } else {
                return false;
        }
}
if  (isCrawler()){
       echo "你好蜘蛛精!";
}
else{
     echo "你不是蜘蛛精啊!";
}

 

以上是关于php判断来访者是否是搜索引擎的蜘蛛的主要内容,如果未能解决你的问题,请参考以下文章

PHP判断访客是不是是谷歌蜘蛛 如果是就不域名跳转如果不是就跳转域名 怎么实现呢 跪求啊

js如何判断访问来源是来自搜索引擎(蜘蛛人)还是直接访问

判断访问者是否为搜索引擎蜘蛛

网站程序怎么判断是访客还是蜘蛛在访问?

判断百度蜘蛛偷偷进行转移权重301,给新站提权

爬虫日记(85):Scrapy的ExecutionEngine类