K8s 原生 Serverless 实践：ASK 与 Knative

Posted CNCF

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了K8s 原生 Serverless 实践：ASK 与 Knative相关的知识，希望对你有一定的参考价值。

3 月 26 日消息，权威咨询机构 Forrester 发布 2021 年第一季度 FaaS 平台评估报告，阿里云函数计算凭借在产品能力、安全性、战略愿景和市场规模等方面的优势脱颖而出，。


作者 | 李鹏（元毅）


为什么需要 Knative



K8s 原生 Serverless 实践：ASK 与 Knative

K8s 目前已成为云原生市场上的主流操作系统，K8s 对上通过数据抽象暴露基础设施能力，比如 Service、Ingress、Pod、Deployment 等，这些都是通过 K8s 原生 API 给用户暴露出来的能力；而对下 K8s 提供了基础设施接入的一些标准接口，比如 CNI、CRI、CRD，让云资源以一个标准化的方式进入到 K8s 的体系中。

K8s 处在一个承上启下的位置，云原生用户使用 K8s 的目的是为了交付和管理应用，也包括灰度发布、扩容缩容等。但是对用户来说，实现这些能力，通过直接操作 K8s API 难免有些复杂。另外节省资源成本和弹性对于用户来说也越来越重要。

那么，如何才能简单地使用 K8s 的技术，并且实现按需使用，最终实现降本增效的目的呢？答案就是 Knative。


Knative简介



1. Knative 是什么


  • 定义


K8s 原生 Serverless 实践：ASK 与 Knative

Knative 是一款基于 Kubernetes 的 Serverless 编排引擎，Knative 一个很重要的目标是制定云原生跨平台的编排标准，它通过整合容器构建、工作负载以及事件驱动来实现这一目的。

Knative 社区当前贡献者主要有 Google、Pivotal、IBM、Red Hat，可见其阵容强大，另外还有 CloudFoundry、OpenShift 这些 PAAS 提供商也都在积极地参与 Knative 的建设。

  • 核心模块


K8s 原生 Serverless 实践：ASK 与 Knative

Knative 核心模块主要包括两部分：事件驱动框架 Eventing 和提供工作负载的 Serving，接下来本文主要介绍 Serving 相关的一些内容。


2. 流量灰度发布


以一个简单的场景为例：

  • 在 K8s 中实现基于流量的灰度发布



K8s 原生 Serverless 实践：ASK 与 Knative

如果要在 K8s 中实现基于流量的灰度发布，需要创建对应的 Service 与 Deployment，弹性相关的需要 HPA 来做，然后在流量灰度发布时，要创建新的版本。

以上图为例，创始版本是 v1，要想实现流量灰度发布，我们需要创建一个新的版本 v2。创建 v2 时，要创建对应的 Service、Deployment、HPA。创建完之后通过 Ingress 设置对应的流量比例，最终实现流量灰度发布的功能。
 

  • 在 Knative 中实现基于流量的灰度发布



K8s 原生 Serverless 实践：ASK 与 Knative

如上图所示，在 Knative 中想要实现基于流量的灰度发布，只需要创建一个 Knative Service，然后基于不同的版本进行灰度流量，可以用 Revision1 和 Revision2 来表示。在不同的版本里面，已经包含了自动弹性。
 
从上面简单的两个图例，我们可以看到在 Knative 中实现流量灰度发布时，需要直接操作的资源明显较少。

3. Knative Serving 架构


K8s 原生 Serverless 实践：ASK 与 Knative

  • Service


Service 对应 Serverless 编排的抽象，通过 Service 管理应用的生命周期。Service 下又包含两大部分：Route 和 Configuration。

  • Route


Route 对应路由策略。将请求路由到 Revision，并可以向不同的 Revision 转发不同比例的流量。

  • Configuration


Configuration 配置的是相应的资源信息。当前期望状态的配置。每次更新 Service 就会更新 Configuration。

  • Revision


每次更新 Configuration 都会相应得到一个快照，这个快照就是 Revision，通过 Revision 实现多版本管理以及灰度发布。

我们可以这样理解：Knative Service ≈ Ingress + Service + Deployment + 弹性（HPA）。

4. 丰富的弹性策略


当然，Serverless 框架离不开弹性， Knative 中提供了以下丰富的弹性策略：

  • 基于流量请求的自动扩缩容：KPA；

  • 基于 CPU、Memory 的自动扩缩容：HPA；

  • 支持定时 + HPA 的自动扩缩容策略；

  • 事件网关（基于流量请求的精准弹性）。


Knative 和 ASK 融合



1. ASK：Serverless Kubernetes


K8s 原生 Serverless 实践：ASK 与 Knative

如果要准备 ECI 资源的话，需要提前进行容量规划，这无疑违背了 Serverless 的初衷。为摆脱 ECI 资源的束缚，不必提前进行 ECI 资源规划，阿里云提出了无服务器 Serverless——ASK。用户无需购买节点，即可直接部署容器应用，无需对节点进行维护和容量规划。ASK 提供了 K8s 兼容的能力，同时极大地降低了 K8s 的使用门槛，让用户专注于应用程序，而不是底层基础设施。

ASK 提供了以下能力：

  • 免运维


开箱即用，无节点管理和运维，无节点安全维护，无节点 NotReady，简化 K8s 集群管理。

  • 极致的弹性扩容


无容量规划，秒级扩容，30s 500pod。

  • 低成本


按需创建 Pod，支持 Spot，预留实例券。

  • 兼容 K8s


支持 Deployment / statfulset / job / service / ingress / crd 等。

  • 存储挂载


支持挂载云盘、NAS、OSS 存储券。

  • Knative on ASK


基于应用流量的自动弹性，开箱即用，缩容到最小规格。

  • Elastic Workload


支持 ECI 按量和 Spot 混合调度。

  • 集成 ARMS/SLS 等云产品


2. Knative 运维复杂度


Knative 运维主要存在三个方面的问题：Gateway、Knative 管控组件和冷启动问题。

K8s 原生 Serverless 实践：ASK 与 Knative

如上图所示，在 Knative 中管控组件会涉及到相应的 Activator，它是从 0 到 1 的一个组件；Autoscaler 是扩缩容相关的组件；Controller 是自身的管控组件以及网关。对于这些组件的运维，如果放在用户层面做，无疑会加重负担，同时这些组件还会占用成本。

K8s 原生 Serverless 实践：ASK 与 Knative

除此之外，从 0 到 1 的冷启动问题也需要考虑。当应用请求过来时，第一个资源从开始到启动完成需要一段时间，这段时间内的请求如果响应不及时的话，会造成请求超时，进而带来冷启动问题。

对于上面说到的这些问题，我们可以通过 ASK 来解决。下面看下 ASK 是如何做的？

3. Gateway 和 SLB 融合


K8s 原生 Serverless 实践：ASK 与 Knative

相比于之前 Istio 提供的能力，我们需要运营管控 Istio 相关的组件，这无疑加大了管控成本。实际上对于大部分场景来说，我们更关心网关的能力，Istio 本身的一些服务（比如服务网格）我们其实并不需要。

在 ASK 中，我们将网关这一层通过 SLB 进行了替换：
 

  • 降成本：减少了十几个组件，大大降低运维成本和 IaaS 成本；

  • 更稳定：SLB 云产品服务更稳定，可靠性更高，易用性也更好。


4. 管控组件下沉


K8s 原生 Serverless 实践：ASK 与 Knative

对于 Knative 管控组件，ASK 做了一些托管：

  • 开箱即用：用户直接使用 Serverless Framework，不需要自己安装；

  • 免运维、低成本：Knative 组件和 K8s 集群进行融合，用户没有运维负担，也无需承担额外的资源成本；

  • 高管控：所有组件都在管控端部署，升级和迭代更容易。


5. 优雅的保留实例


在 ASK 平台中，我们提供了优雅保留实例的能力，其作用是免冷启动。通过保留实例，消除了从 0 到 1 的冷启动时间。当我们缩容到 0 的时候，并没有把实例真正缩容到 0，而是缩容到一个低规格的保留实例上，目的是降低成本。

  • 免冷启动：通过保留规格消除了从 0 到 1 的 30 秒冷启动时间；

  • 成本可控：突发性能实例成本比标准规格实例降低 40% 的成本，如果和 Spot 实例结合还能再进一步降低成本。


实操演示



最后进行动手实践演示，以一家咖啡店（cafe）为例，演示内容主要有：

  • 在 ASK 集群中安装 Knative；

  • 部署 coffee 服务；

  • 访问 coffee 服务；

  • 保留实例。


演示过程观看方式：

  • 打开链接：

    https://developer.aliyun.com/live/246126

  • 扫描下方二维码：

K8s 原生 Serverless 实践：ASK 与 Knative

（扫码观看实操演示）


作者简介：
李鹏，花名：元毅，阿里云容器平台高级开发工程师，2016 年加入阿里， 深度参与了阿里巴巴全面容器化、连续多年支持双十一容器化链路。专注于容器、Kubernetes、Service Mesh 和 Serverless 等云原生领域，致力于构建新一代 Serverless 平台。当前负责阿里云容器服务 Knative 相关工作。

Serverless 电子书下载


K8s 原生 Serverless 实践：ASK 与 Knative
本书亮点：
  • 从架构演进开始，介绍 Serverless 架构及技术选型构建 Serverless 思维；
  • 了解业界流行的 Serverless 架构运行原理；
  • 掌握 10 大 Serverless 真实落地案例，活学活用。

以上是关于K8s 原生 Serverless 实践：ASK 与 Knative的主要内容，如果未能解决你的问题，请参考以下文章

容器技术Docker K8s 39 Serverless Kubernetes（ASK）详解-阿里云Serverless容器（ASK）适用场景与核心功能

容器技术Docker K8s 42 Serverless Kubernetes（ASK）详解-ASK应用管理

容器技术Docker K8s 41 Serverless Kubernetes（ASK）详解-ASK集群管理

容器技术Docker K8s 37 Serverless Kubernetes（ASK）详解-Serverless容器进化

容器技术Docker K8s 44 Serverless Kubernetes（ASK）详解-ASK弹性伸缩管理

容器技术Docker K8s 43 Serverless Kubernetes（ASK）详解-ASK网络存储日志监控管理