2 HTTP和HTTPS

Posted 2022-08-20 shibojie

HTTP和HTTPS

HTTP的全称是Hyper Text Transfer Protocol，中文名叫作超文本传输协议。HTTP协议是用于从网络传输超文本数据到本地浏览器的传送协议，它能保证高效而准确地传送超文本文档。HTTP由万维网协会（World Wide Web Consortium）和Internet工作小组IETF（Internet Engineering Task Force）共同合作制定的规范，目前广泛使用的是HTTP1.1版本。

HTTPS的全称是Hyper Text Transfer Protocol over Secure Socket Layer，是以安全为目标的HTTP通道，简单讲是HTTP的安全版，即HTTP下加入SSL层，简称为HTTPS。

HTTPS的安全基础是SSL，因此通过它传输的内容都是经过SSL加密的，它的主要作用可以分为两种：

1. 口建立一个信息安全通道来保证数据传输的安全。

2. 口确认网站的真实性，凡是使用了HTTPS的网站，都可以通过点击浏览器地址栏的锁头标志来查看网站认证之后的真实信息，也可以通过CA机构颁发的安全签章来查询。

现在越来越多的网站和App都已经向HTTPS方向发展，例如：

• 苹果公司强制所有iosApp在2017年1月1日前全部改为使用HTTPS加密，否则App就无法在应用商店上架；

• 谷歌从2017年1月推出的Chrome56开始，对未进行HTTPS加密的网址链接亮出风险提示，即在地址栏的显著位置提醒用户“此网页不安全”；

• 腾讯微信小程序的官方需求文档要求后台使用HTTPS请求进行网络通信，不满足条件的域名和协议无法请求。

　　而某些网站虽然使用了HTTPS协议，但还是会被浏览器提示不安全，例如我们在Chrome浏览器里面打开12306，链接为：https:/www.12306.cn/，这时浏览器就会提示“您的连接不是私密连接”，这是因为12306的CA证书是中国铁道部自行签发的，而这个证书是不被CA机构信任的，所以这里证书验证就不会通过而提示这样的话，但是实际上它的数据传输依然是经过SSL加密的。如果要爬取这样的站点，就需要设置忽略证书的选项，否则会提示SSL链接错误。

 

HTTP请求过程

 

 

请求

1.请求方法

常见的请求方法有两种：GET和POST 在浏览器中直接输入URL并回车，这便发起了一个GET请求，请求的参数会直接包含到URL里。例如，在百度中搜索Python，这就是一个GET请求，链接为https://www.baidu.com/s？wd=Python，其中URL中包含了请求的参数信息，这里参数wd表示要搜寻的关键字。

POST请求大多在表单提交时发起。比如，对于一个登录表单，输入用户名和密码后，点击“登录”按钮，这通常会发起一个POST请求，其数据通常以表单的形式传输，而不会体现在URL中。

GET和POST请求方法有如下区别：

• GET请求中的参数包含在URL里面，数据可以在URL中看到，而POST请求的URL不会包含这些数据，数据都是通过表单形式传输的，会包含在请求体中。

• GET请求提交的数据最多只有1024字节，而POST方式没有限制。

一般来说，登录时，需要提交用户名和密码，其中包含了敏感信息，使用GET方式请求的话，密码就会暴露在URL里面，造成密码泄露，所以这里最好以POST方式发送。上传文件时，由于文件内容比较大，也会选用POST方式。

 

其他请求方法

GET　　请求页面，并返回页面内容
HEAD　　 类似于GET请求，只不过返回的响应中没有具体的内容，用于获取报头
POST　　大多用于提交表单或上传文件，数据包含在请求体中
PUT　　从客户端向服务器传送的数据取代指定文档中的内容
DELETE　　 请求服务器删除指定的页面
CONNECT　　把服务器当作跳板，让服务器代替客户端访问其他网页
OPTIONS　　允许客户端查看服务器的性能
TRACE　　回显服务器收到的请求，主要用于测试或诊断

 

2.常见的请求头

Accept　　请求报头域，用于指定客户端可接受哪些类型的信息。口Accept-Language：指定客户端可接受的语言类型。口Accept-Encoding：指定客户端可接受的内容编码。

Host　　用于指定请求资源的主机IP和端口号，其内容为请求URL的原始服务器或网关的位置。从HTTP1.1版本开始，请求必须包含此内容。

Cookie　　也常用复数形式Cookies，这是网站为了辨别用户进行会话跟踪而存储在用户本地的数据。它的主要功能是维持当前访问会话。例如，我们输入用户名和密码成功登录某个网站后，服务器会用会话保存登录状态信息，后面我们每次刷新或请求该站点的其他页面时，会发现都是登录状态，这就是Cookies的功劳。Cookies里有信息标识了我们所对应的服务器的会话，每次浏览器在请求该站点的页面时，都会在请求头中加上Cookies并将其发送给服务器，服务器通过Cookies识别出是我们自己，并且查出当前状态是登录状态，所以返回结果就是登录之后才能看到的网页内容。

Referer　　此内容用来标识这个请求是从哪个页面发过来的，服务器可以拿到这一信息并做相应的处理，如做来源统计、防盗链处理等。

User-Agent　　简称UA，它是一个特殊的字符串头，可以使服务器识别客户使用的操作系统及版本、浏览器及版本等信息。在做爬虫时加上此信息，可以伪装为浏览器；如果不加，很可能会被识别出为爬虫。

Content-Type　　也叫互联网媒体类型（Internet Media Type）或者MIME类型，在HTTP协议消息头中，它用来表示具体请求中的媒体类型信息。例如，text/html代表HTML格式，image/gif代表GIF图片，application/json代表JSON类型，更多对应关系可以查看此对照表：
http://tool.oschina.net/commons。

 

3.请求体

请求体一般承载的内容是POST请求中的表单数据，而对于GET请求，请求体则为空。

Content-Type和POST 提交数据方式的关系:

application/x-www-form-urlencoded 　　表单数据
multipar/form-dat　　 表单文件上传
application/json　　序列化JSON数据
text/xml　　XML数据

 

响应

响应，由服务端返回给客户端，可以分为三部分：响应状态码（Response Status Code）、响应头（Response Headers）和响应体（Response Body）

 

1.响应状态码

状态码分类：

1**　　信息，服务器收到请求，需要请求者继续执行操作

2**　　成功，操作被成功接收并处理

3**　　重向，需要进一步的操作以完成请求

4**　　客户端错误，请求包含语法错误或无法完成请求

5**　　服务器错误，服务器在处理请求的过程中发生了错误

常见的响应状态码：

200 　　请求成功

301 　   资源（网页等）被永久转移到其它URL

404　　请求的资源（网页等）不存在

500　　内部服务器错误

 

 

2.常见的响应头

 

Date　　标识响应产生的时间。
Last-Modified　　指定资源的最后修改时间。
Content-Encoding　　指定响应内容的编码。
Server　　包含服务器的信息，比如名称、版本号等。
Content-Type　　文档类型，指定返回的数据类型是什么，如texthtml代表返回HTML文档，application/x-javascript则代表返回JavaScript文件，image/jpeg则代表返回图片。
Set-Cookie　　设置Cookies。响应头中的Set-Cookie 告诉浏览器需要将此内容放在Cookies中，下次请求携带 Cookies请求。
Expires　　指定响应的过期时间，可以使代理服务器或浏览器将加载的内容更新到缓存中。如果再次访问时，就可以直接从缓存中加载，降低服务器负载，缩短加载时间。

 

 

3.响应体

最重要的当属响应体的内容了。响应的正文数据都在响应体中，比如请求网页时，它的响应体就是网页的HTML代码；请求一张图片时，它的响应体就是图片的二进制数据。我们做爬虫请求网页后，要解析的内容就是响应体

在浏览器开发者工具中点击Preview，就可以看到网页的源代码，也就是响应体的内容，它是解析的目标。

在做爬虫时，我们主要通过响应体得到网页的源代码、JSON数据等，然后从中做相应内容的提取。