有没有办法根据谁是客户端,网络爬虫和网络应用客户端呈现不同的页面?

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了有没有办法根据谁是客户端,网络爬虫和网络应用客户端呈现不同的页面?相关的知识,希望对你有一定的参考价值。

我正在设置我的网页以支持ssr,这是我的问题,我可以知道客户端是否是网络爬虫,所以我可以做ssr?

通过这种方式,我将为不是网络抓取工具的客户端提供网页服务

我已经看到要验证google-bot-crawler你可以使用https://stackoverflow.com/a/3308728/8991228

但是有一般的方法吗?

答案

有一个标题:User-Agent,通常在他的帮助下,你能够识别它是浏览器还是机器人,但......

伪造此标题的难度为0。

因此,使用其他验证方法,例如, Google,正如您所示。

但是......并非所有机器人都显示为机器人。例如,谷歌倾向于检查是否有其他内容被发送到僵尸程序。

总而言之:如果您知道机器人接受它(例如Facebook链接共享者),您可以这样做

以上是关于有没有办法根据谁是客户端,网络爬虫和网络应用客户端呈现不同的页面?的主要内容,如果未能解决你的问题,请参考以下文章

爬虫入门

Retrofit VS OkHttp,谁是最强网络开发框架?

让数字说话之二:网络爬虫技术

有没有办法通过网络浏览器控制本地工具(CATIA/Office)?

网络爬虫入门02HTTP客户端库Requests的基本原理与基础应用

网络爬虫