http 基础与通讯原理

Posted ddz-linux

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了http 基础与通讯原理相关的知识，希望对你有一定的参考价值。

目录

http 基础与通讯原理

技术图片

Internet 与中国

1990年10月 注册CN顶级域名

钱天白教授代表中国正式在国际互联网络信息中心的前身DDN-NIC注册登记了我国的顶级域名CN，并且从此开通了使用中国顶级域名CN的国际电子邮件服务。由于当时中国尚未正式连入Internet，所以委托德国卡尔斯鲁厄大学运行CN域名服务器

1993年3月2日 接入第一根专线

中国科学院高能物理研究所租用AT&T公司的国际卫星信道接入美国斯坦福线性加速器中心（SLAC）的64K专线正式开通,专线开通后，美国政府以Internet上有许多科技信息和其它各种资源，不能让社会主义国家接入为由，只允许这条专线进入美国能源网而不能连接到其它地方。尽管如此，这条专线仍是我国部分连入Internet的第一根专线

1994年4月20日 实现与互联网的全功能连接

中国实现与互联网的全功能连接，被国际上正式承认为有互联网的国家

1994年5月21日 设置CN域名服务器

在钱天白教授和德国卡尔斯鲁厄大学的协助下，中国科学院计算机网络信息中心完成了中国国家顶级域名(CN)服务器的设置，改变了中国的CN顶级域名服务器一直放在国外的历史

1996年1月 正式进入Internet

中国互联网全国骨干网建成并正式开通，开始提供服务

TCP/IP协议

技术图片

http 属于应用层协议

socket 套接字

什么是套接字？
在建立通信连接的每一端，进程间的传输要有两个标志，IP地址和端口号，合称为套接字地址 socket address。他是进程间通信IPC的一种实现，允许位于不同主机（或同一主机）上不同进程之间进行通信和数据交换，SocketAPI出现于1983年，4.2 BSD实现
客户机套接字地址定义了一个唯一的客户进程。
服务器套接字地址定义了一个唯一的服务器进程。

技术图片

套接字转发过程

技术图片

根据每个应用的端口号，socket 会将该数据转发给对应端口的服务，当客户端与服务端在同一台主机上，且为不同的程序之间进行通讯时，Socket的存在方式为：UNIX套接字文件。这样就无须层层封装解封装数据包，提高连接效率。

套接字中的几个名词含义：

Socket API：封装了内核中所提供的socket通信相关的系统调用
Socket Domain ：根据其所使用的IP地址来显示

  • AF_INET：Address Family，IPv4
  • AF_INET6：IPv6
  • AF_UNIX：同一主机上不同进程之间通信时使用

Socket Type：根据使用的传输层协议

  • SOCK_STREAM：流，tcp套接字，可靠地传递、面向连接
  • SOCK_DGRAM：数据报，udp套接字，不可靠地传递、无连接
  • SOCK_RAW: 裸套接字,无须tcp或tdp,APP直接通过IP包通信，相当于应用程序数据，不走TCP ，直接到IP层，绕过TCP,UDP。

套接字连接过程

技术图片

具体过程描述：
服务器A首先开启一个服务，创建流套接字描述符，之后，该服务会根据其配置文件，绑定使用的协议，网卡地址，端口。这时候，这个端口就开启了socket请求监听。
当客户端发送一个请求给服务的时候，服务器通过解包后分析该数据库的目标地址是哪个地址，哪个端口，就会发送给对应的服务。这个时候，根据协议，如果是TCP的话，就会进行三次握手，建立连接。建立连接后，不在关注客户端和服务器端，他们就可以双向传送数据。

套接字相关系统函数

  • socket(): 创建一个套接字
  • bind()：绑定IP和端口
  • listen()：监听
  • accept()：接收请求
  • connect()：请求连接建立
  • write()：发送
  • read()：接收
  • close():关闭连接

HTTP 服务

通讯过程

技术图片

技术图片

相关术语

html: Hyper Text Markup Language 超文本标记语言
CSS: Cascading Style Sheet 层叠样式表
js: javascript

示例：

<html>
    <head>
       <title>html语言</title>
    </head>
<body>
    <img src="http://www.magedu.com/wp-content/uploads/2017/09/logo.png" >
    <h1>标题1</h1>
    <p><a href=http://www.magedu.com>马哥教育</a>欢迎你</p>
</body>
</html>

MIME:Multipurpose Internet Mail Extensions多用途互联网邮件扩展。在http协议中，MIME用于区分数据类型。是设定某种扩展名的文件用一种应用程序来打开的方式类型，当该扩展名文件被访问的时候，浏览器会自动使用指定应用程序来打开。常见的类型有：

  • text/plain
  • text/html
  • text/css
  • image/jpeg
  • image/png
  • video/mp4
  • application/javascript

工作机制

http请求：http request
http响应：http response

所以，通常一次http事务： 请求 <-->响应

Web资源：web resource
一个网页由多个资源构成，打开一个页面，会有多个资源展示出来，但是每个资源都要单独请求。因此，一个“Web 页面”通常并不是单个资源，而是一组资源的集合

静态文件：无需服务端做出额外处理，用户通过浏览器，访问web服务器，获取web数据的时候，如果获取到的文件，和服务器端的一模一样，那么说明，这是一个静态文件。静态页面不意味着不为变。
文件后缀：.jpg, .html, .txt, .js, .css, .mp3, .avi
动态文件：服务端执行程序，返回执行的结果，本质区别为：服务器端是否要执行该页面，转换为相应页面后返还给客户端，是否为同一个文件。
文件后缀：.asp, .php, .jsp

提高HTTP连接性能

  • 并行连接：通过多条TCP连接发起并发的HTTP请求
  • 持久连接：keep-alive,长连接，重用TCP连接，以消除连接和关闭的时延,以事务个数和时间来决定是否关闭连接
  • 管道化连接：通过共享TCP连接发起并发的HTTP请求
  • 复用的连接：交替传送请求和响应报文（实验阶段）

HTTP的多种连接模式

假设用户现在要访问magedu.com这个地址。这个地址有四个资源需要下载。

串行连接

需要4次TCP 握手回收
建立连接1 --> 请求资源1 --> 服务器响应请求，返还资源1 --> 断开连接
建立连接2 --> 请求资源2 --> 服务器响应请求，返还资源2 --> 断开连接
。。。
。。。

直到所有资源都获取完，每个资源都要握手挥手，效率低下。

并行连接

客户端会一次性建立多个连接，同时获取多个资源 有多少可能就建立多少个。每个连接之间都会有一小段软件时延迟。

建立连接1-4 --> 同时请求 --> 同时下载 -> 一一断开

持久化连接

表示客户端与服务器只建立一次TCP连接，然后按照串行下载的方式，下载所有的资源。就是一个个按顺序下载。

管道化持久连接

客户端与服务器建议一次TCP连接，并且同时发起多个下载请求，同时并行下载多个资源

用比如的方式来说的话，A到B城市需要运送一批货物

普通的串行就是 每次建立一条道路，只运送一箱子，然后拆了这条路，如此循环，直到货全部运输完
普通并行就是 一次性建立100条 ，100箱货全部一起运过去，然后全拆了
持久化串行就是 建立的这条路不是一次性的，可以多次来运输使用，但是一次性只能运一箱
持久化并行就是 建立的这条路不是一次性的，可以一次性运输多个箱子

具体图例

技术图片

技术图片

URL

Uniform Resource Identifier 统一资源标识，分为URL和URN

URN: Uniform Resource Naming，统一资源命名
示例： P2P下载使用的磁力链接是URN的一种实现，URN只是名称，而不代表具体的地址，所以这样P2P才会从多个服务器来下载该名称的资源。相当于一个标记。
magnet:?xt=urn:btih:660557A6890EF888666

URL: Uniform Resorce Locator，统一资源定位符，用于描述某服务器某特定资源位置

两者区别：URN如同一个人的名称，而URL代表一个人的住址。换言之，URN定义某事物的身份，而URL提供查找该事物的方法。URN仅用于命名，而不指定地址。

URL的组成

通常一个URL的组成部分有以下内容：

<scheme>://<user>:<password>@<host>:<port>/<path>;<params>?<query>#<frag>

schame:方案，访问服务器以获取资源时要使用哪种协议，比如：http,https,ntp,ftp.....
user:用户，某些方案访问资源时需要的用户名 
password:密码，用户对应的密码，中间用：分隔
Host:主机，资源宿主服务器的主机名或IP地址
port:端口,资源宿主服务器正在监听的端口号，很多方案有默认端口号
path:路径,服务器资源的本地名，由一个/将其与前面的URL组件分隔
params:参数，指定输入的参数，参数为名/值对，多个参数，用;分隔
query:查询，传递参数给程序，如数据库，用？分隔,多个查询用&分隔
frag:片段,一小片或一部分资源的名字，此组件在客户端使用，用#分隔

URL案例

  • http://www.magedu.com:8080/images/logo.jpg
  • ftp://mage:[email protected]/pub/linux.ppt
  • rtsp://videoserver/video_demo/Real Time Streaming Protocol
  • http://www.magedu.com/bbs/hello;gender=f/send;type=title
  • https://list.jd.com/list.html?cat=670,671,672&ev=149_2992&sort=sort_totalsales15_desc&trans=1
  • http://apache.org/index.html#projects-list

schame 协议类型

网站访问量

IP

IP(独立IP)：即Internet Protocol,指独立IP数。一天内来自相同客户机IP地址只计算一次，记录远程客户机IP地址的计算机访问网站的次数，是衡量网站流量的重要指标

PV

PV(访问量)： 即Page View, 页面浏览量或点击量，用户每次刷新即被计算一次，PV反映的是浏览某网站的页面数，PV与来访者的数量成正比，PV并不是页面的来访者数量，而是网站被访问的页面数量

UV

UV(独立访客)：即Unique Visitor,访问网站的一台电脑为一个访客。一天内相同的客户端只被计算一次。可以理解成访问某网站的电脑的数量。网站判断来访电脑的身份是通过来访电脑的cookies实现的。如果更换了IP后但不清除cookies，再访问相同网站，该网站的统计中UV数是不变的

QPS

QPS：request per second，每秒请求数

PV，QPS,并发连接数换算公式

QPS= PV* 页?衍?连接次数/ 统计时间（86400）
并发连接数 =QPS * http平均响应时间

峰值时间

峰值时间：每天80%的访问集中在20%的时间里，这20%时间为峰值时间
峰值时间每秒请求数(QPS)=( 总PV数 页?衍?连接次数）80% ) / ( 每天秒数* 20% )

http 完整请求处理过程

技术图片

建立连接

接收或拒绝连接请求，如果拒绝则请求结束

接收请求

接收客户端请求报文中对某资源的一次请求的过程，服务器端收到的客户请求不是一个，一次性会收到多个并发请求，所以在web端，就有不同的访问响应模型，来一次性处理多个请求。

单进程I/O模型：启动一个进程处理用户请求，而且一次只处理一个，多个请求被串行响应
多进程I/O模型：并行启动多个进程,每个进程响应一个连接请求 （apache 使用该模型）
复用I/O结构：启动一个进程，同时响应N个连接请求
实现方法：多线程模型和事件驱动
多线程模型：一个进程生成N个线程，每线程响应一个连接请求
事件驱动：一个进程处理N个请求

复用的多进程I/O模型：启动M个进程，每个进程响应N个连接请求，同时接收M*N个请求

由于apache使用多线程I/O结构，每来一个用户请求，就开一个线程或进程进行响应，那么在同一台设备上。同一程序的进程与线程数是有上限了，这就导致了apache 在处理多个请求的时候，当请求数过多，达到峰值，性能就会急剧下降，这个问题被称为c10k问题

c代表连接数，10k 表示并发10000连接 ，对于单设备来说，创建1W个进程，可想而知是根本无法承受的。所以就需要使用别的模型来解决这个问题。

处理请求

处理请求：服务器对请求报文进行解析，并获取请求的资源及请求方法等相关信息，根据方法，资源，首部和可选的主体部分对请求进行处理
元数据：请求报文首部

HEADERS 格式 name:value

示例：

  • Host: www.magedu.com 请求的主机名称
  • Server: Apache/2.4.7

HTTP常用请求方式，Method
GET、POST、HEAD、PUT、DELETE、TRACE、OPTIONS

访问资源

服务器获取请求报文中请求的资源web服务器，即存放了web资源的服务器，负责向请求者提供对方请求的静态资源，或动态运行后生成的资源。事实上访问资源是通过向内核发送访问请求，内核获取资源后，回传给web服务。

假设资源放置于本地文件系统特定的路径：DocRoot
DocRoot /var/www/html

这时候用户需要访问该资源：/var/www/html/images/logo.jpg
那么在浏览器中输入的地址就是：

http://www.magedu.com/images/logo.jpg

构建响应报文

一旦Web服务器识别除了资源，就执行请求方法中描述的动作，并返回响应报文。响应报文中包含有：响应状态码、响应首部，如果生成了响应主体的话，还包括响应主体

响应实体

1）响应实体：如果事务处理产生了响应主体，就将内容放在响应报文中回送过去。响应报文中通常包括：
描述了响应主体MIME类型的Content-Type首部
描述了响应主体长度的Content-Length
实际报文的主体内容

URL重定向

URL重定向：web服务构建的响应并非客户端请求的资源，而是资源另外一个访问路径。例如用户想访问www.ddz.com/images/logo.jpg ,但是该图片的位置已经更改，并且服务器已经设置了重定向，那么当用户访问该路径时，就会重定向到新的路径 。

例如：
永久重定向：http://www.360buy.com
临时重定向：http://www.taobao.com

MIME类型

Web 服务器要负责确定响应主机的MIME类型。多种配置服务器的方法可将MIME类型与资源管理起来。
魔法分类：Apache web 服务器可以扫描每个资源的内容，并将其与一个已知模式表（被称为魔法文件）进行匹配，以决定每个文件的MIME类型。这样做可能比较慢，但是很方便，尤其是文件没有标准扩展名时。（这里要注意一点，当文件有扩展名时，他会直接匹配，当文件没有扩展名时，他就会扫描文件头信息。所以如果一个jpg文件的后缀为txt,那么他会认为这是一个txt文件。）
显式分类：可以对Web服务器进行配置，使其不考虑文件的扩展名或内容，强制特定文件或目录内容拥有某个MIME类型
类型协商： 有些Web服务器经过配置，可以以多种文档格式来存储资源。在这种情况下，可以配置Web服务器，使其可以通过与用户的协商来决定使用哪种格式(及相关的MIME类型)"最好"。

发送响应报文

Web服务器通过连接发送数据时也会面临与接收数据一样的问题。服务器可能有很多条到各个客户端的连接，有些是空闲的，有些在向服务器发送数据，还有一些在向客户端回送响应数据。服务器要记录连接的状态，还要特别注意对持久连接的处理。对非持久连接而言，服务器应该在发送了整条报文之后，关闭自己这一端的连接。对持久连接来说，连接可能仍保持打开状态，在这种情况下，服务器要正确地计算Content-Length首部，不然客户端就无法知道响应什么时候结束了。

记录日志

最后，当事务结束时，Web服务器会在日志文件中添加一个条目，来描述已执行的事务

简述

  1. 客户端向服务器发送TCP 连接请求，三次握手，同一后建立连接
  2. 服务器接收客户端请求报文中对某资源的一次请求的过程，这个响应过程通常有多种模型 ，单线程IO 多线程IO
  3. 服务器对客户端发送的请求报文进行解析，也就是我们通常说的网址。并获取请求的资源及请求方法等相关信息，分割报文，来解析请求，通常一个报文是包含 请求方式，请求主机名，端口（默认80），详细页面等等
  4. 服务器根据这个解析的信息，访问这些存放了web资源的服务器，负责向请求者提供对方请求的静态资源，或动态运行后生成的资源
  5. 资源获取完成后，服务器构建响应报文，有后缀。MIME会根据文件后缀来判断类型，没有后缀，就通过自己识别来判断。然后发送该响应报文
  6. 客户端接收到该报文后，解析出来，显示给用户。

以上是关于http 基础与通讯原理的主要内容，如果未能解决你的问题，请参考以下文章

熟悉HTTP协议结构和通讯原理

编程必备基础－大话HTTP协议

深入理解HTTPS通讯原理

异常和TCP通讯

基础与框架 谁更重要

IM即时通讯实现的原理