如何阻止谷歌抓取我的页面,但仍然让百度去做?

Posted

技术标签:

【中文标题】如何阻止谷歌抓取我的页面,但仍然让百度去做?【英文标题】:How can I block google from crawling my page, but still let Baidu do it? 【发布时间】:2019-06-25 08:54:44 【问题描述】:

我只想阻止 Google 抓取我网站上的特定页面,但我仍然希望其他搜索引擎(首先是百度)抓取它。

我不知道这是否可能。

【问题讨论】:

【参考方案1】:

您需要创建一个 robots.txt 文件来阻止 google 的 userAgent

//在 robots.txt 中

User-agent: Googlebot
Disallow: /

User-agent: *
Allow: /

在此处阅读有关 robots.txt 的更多信息:https://support.google.com/webmasters/answer/6062596?hl=en

【讨论】:

以上是关于如何阻止谷歌抓取我的页面,但仍然让百度去做?的主要内容,如果未能解决你的问题,请参考以下文章

单击选项卡时如何阻止页面提交?

内容已删除但 URL 仍被抓取

百度统计发现“静态页参数 在静态页面上使用动态参数,会造成spider多次和重复抓取”的问题如何解决

如何在超出超时时阻止NodeJS脚本崩溃

如何阻止 QHttp/QtWebKit 缓存页面

noindex 标签是不是会阻止机器人抓取页面上的链接?