本文是为CIO学院准备的云原生公开课其中一节,希望帮助企业客户更好地理解容器技术和云原生理念,合理地设计上云架构,充分发挥云的价值。
今天我的演讲主要分四部分
- 第一部分,简要介绍容器的一些技术背景,什么是容器,它有什么价值,为什么容器成为云原生计算的基石。
- 第二部分,概述阿里云容器产品家族。
- 第三部分,和大家分享企业落地容器技术的正确姿势。
- 第四部分,介绍阿里云容器服务的演进方向。
首先什么是容器,容器的英语是Container,它的意思也是集装箱。我们知道,经济全球化的基础就是现代运输体系,而其核心正是集装箱。集装箱的出现实现了物流运输的标准化,自动化,大大降低了运输的成本,使得整合全球的供应链变为可能。这就是著名经济学人谈到的“没有集装箱,就没有全球化。
集装箱背后的标准化、模块化的理念也在推进建筑业的供应链变革。在最近,疫情爆发之后。10天10夜,在武汉火神山,一个可以容纳上千床位的专科医院平地而起,在抗疫过程中发挥的重要作用。整个医院都是采用集装箱板房吊装。模块化的病房设计,预置了空调、消杀、上下水等设施,极大加速了施工速度。
软件集装箱 ”容器技术“ 也在重塑整个软件供应链。容器作为一种轻量化的操作系统虚拟化技术,和和传统的物理机、虚拟化技术和使用方式有什么不同呢?打个比喻
-
传统物理机就是 - 独栋大别墅
- 一家人独占,住的舒适,不会被别人打扰。
- 应用独占物理机,性能优异。但是缺点就是贵、交付时间长,资源利用率也不高。
-
虚拟机就是 - 联排住宅
- 每户有独立的空间,有较好的隔离性。每栋房屋之间共享水电、地基等基础设施。容积率提升了,成本下降了,交付速度也加快了。
- 通过虚拟化技术,虚拟机中的应用可以实现安全隔离,还可以有效提升资源利用率。但是,虚拟机交付后还需进行应用配置和安装,交付速度还不够快。
容器就是 - 集装箱板房
-
- 集装箱房采用模块化设计,自带装修,可以快速搭建,随时移动。这是2022年卡塔尔世界杯一个体育场的设计。它将完全使用集装箱方式搭建一个可以容纳4万人的体育场。每个集装箱模块都在在中国生产,已经预置了看台,卫生间,酒吧等功能,在中国生产完毕后在卡塔尔组装。不但工期可以缩短3年,而且赛事结束后可以拆卸,搬迁到其他地方。
- 容器利用操作系统中cgroup,namespace等技术实现资源隔离。容器共享操作系统内核,非常轻量,没有资源损耗,支持秒级启动,极大提升了系统的应用部署密度和弹性。容器镜像将应用和其依赖的系统组件和配置打包在一个标准化的、自包含的格式中。通过容器镜像方式进行应用分发和交付,可以让应用即开即用,并一致地运行在不同环境。
在过去几年中,容器技术得到了越来越广泛的应用。其中最受用户关注的3个核心价值是
- 敏捷 - 天下武功唯快不破。在企业数字化转型时代,每个企业都在面临着新兴业务模式的冲击和众多的不确定性。一个成功的企业不是看他现在规模有多大,过去的战略有多成功,而是要看他是否有能力持续创新。容器技术提升了企业的IT架构的敏捷性,从而提升了业务敏捷性,可以加速业务创新。比如疫情期间,教育、视频、公共健康等行业的在线化出现了爆发性高速增长。我们有很多客户通过容器技术很好地把握了业务快速增长的机遇。在业界的统计中,使用容器技术可以实现3~10倍交付效率提升,这意味着企业可以进行快速迭代,低成本试错。
- 弹性 - 在互联网时代,企业IT系统经常需要面对电商大促、突发事件等可预期和非预期的流量增长。通过容器技术可以充分发挥云计算的弹性,优化计算成本。一般而言通过容器技术,可以通过部署密度提升和弹性可以降低50%的计算成本。以在线教育场景为例,面对疫情之下指数级增长的流量,希沃利用ACK和ECI极大缓解了扩容的压力,支持了数十万教师的在线课堂,帮助百万学生在线学习。
- 可移植性 – 容器技术推进了云计算的标准化进程。容器已经成为应用分发和交付的标准,可以将应用与底层运行环境解耦; Kubernetes 成为资源调度和编排的标准,屏蔽了底层架构的差异性,帮助应用平滑运行在不同的基础设施上。CNCF云原生计算基金会推出了Kubernetes一致性认证,进一步保障了不同K8s实现的兼容性。这也让企业愿意采用容器技术来构建云时代的应用基础设施。
现在 Kubernetes 已经成为了云应用操作系统,越来越多应用运行在Kubernetes基础之上:从无状态的Web应用,到交易类应用(如数据库、消息中间件),再到数据化、智能化应用。阿里经济体也基于容器技术,实现了全面的云原生上云。
阿里云容器产品自从2016年6月商业化以来得到了高速的发展,也赢得了越来越多客户的认同。
连续两年,阿里云容器服务国内唯一入选Gartner公共云容器报告。今年分析师认为:
- 阿里云产品丰富度与AWS产品能力齐平,领先其他四家厂商。
- 阿里云在Serverless 容器、安全沙箱容器、混合云和边缘等领域具备良好的技术策略。
- 阿里云容器服务是国内容器客户的技术首选。
2019年3Q,在Forrester企业容器平台评测中阿里云容器服务是Strong Performer,产品能力和市场规模规模遥遥领先国内友商。
阿里云容器服务产品家族可以在公共云、边缘计算和专有云环境提供企业容器平台。阿里云容器产品的核心是 Kubernetes Service - ACK 和 Serverless K8s - ASK,它们构建在阿里云的一系列基础设施能力之上,包括计算、存储、网络、安全等,并提供标准化接口、优化的能力和简化的用户体验。ACK 通过CNCF K8s一致性兼容认证,并提供了一系列企业关注的核心能力,比如安全治理,端到端可观测性、多云混合云等。
镜像服务ACR是企业云原生应用资产管理的核心,可以管理Docker镜像,Helm Chart等应用资产,并和CI/CD工具结合在一起提供完整的DevSecOps流程。
托管服务网格 ASM,提供全托管的微服务应用流量管理平台,兼容Istio,支持多个Kubernetes集群中应用的统一流量管理,为容器和虚拟机中应用服务提供一致的通信、安全和可观测能力。
我们以托管K8s为例介绍集群部署拓扑结构。
ACK托管K8s集群基于 Kubernetes on Kubernetes架构设计。K8s集群的Master组件,运行在ACK VPC中的控制平面K8s Cluster之上。
ACK采用了默认高可用的架构设计: etcd 3副本分别运行在3个不同AZ之上。也根据可扩展性最佳实践,提供了两组etcd。一组保存配置信息,一组保存系统事件,这样可以提升etcd的可用性和可扩展性。用户K8s集群的API Server/Scheduler等master组件,采用多副本方式部署,运行在2个不同的AZ之上。master组件可以根据工作负载进行弹性扩展,Worker节点通过SLB来访问API Server。这样的设计保证了整个K8s集群的可用性,即使一个AZ的失效,也不会导致K8s集群自身失败。
用户的worker节点,运行在用户的VPC。我们的建议是将节点运行在不同的AZ。配合应用的AZ anti-affinity反亲和性可以保障应用的高可用。
此外,K8s集群也提供了缺省安全的配置,符合CIS Kubernetes Benchmark安全最佳实践规范,并与阿里云安全能力深度集成。用户可以通过RAM实现对ACK集群RBAC的用户角色和权限管理,用户通过ActionTrail进行操作审计等。我们也提供了内置的审计日志dashboard,帮助用户轻松了解集群的操作历史和安全情况。
阿里云去年推出了基于神龙架构的弹性计算第六代企业级实例,基于阿里自研神龙芯片
- 裸金属实例提供超强超稳的计算能力,无任何虚拟化开销。
- ECS虚拟机实例基于全新的轻量化、软硬一体的Hypervisor,极大降低了虚拟化的性能开销,
神龙架构提供了极致I/O性能,最高600万PPS。阿里云容器网络Terway结合神龙架构可以实现20%网络性能提升。神龙架构是真正为容器打造的最佳云计算平台。在阿里集团电商真实的业务场景中,基于用神龙加容器架构,在同样的集群、同样的资源配置的情况下,用神龙架构QPS可以提升30%,客户资源的利用率也有大幅度的提升。
下面我们来重点介绍一下容器技术企业落地的最佳实践。
弹性是云最核心的能力之一,像双十一这样的典型脉冲应用场景,或者像疫情爆发之后的在线教育和办公协同的极速增长,只能依靠云提供的强大弹性算力才能支撑。Kubernetes可以将云的弹性能力发挥到极致。
ACK在资源层和应用层提供了丰富的弹性策略,在资源层目前主流的方案是通过 cluster-autoscaler 进行节点的水平伸缩。当出现 Pod 由于资源不足造成无法调度时,cluster-autoscaler 会在节点池中自动创建新的节点实例。我们可以根据应用负载需求,指定选择ECS虚拟机,神龙裸金属或GPU实例进行扩容。值得一提的是Spot instance,竞价实例,可以利用阿里云的空闲计算资源,成本折扣可以低至按量付费实例的90%。竞价实例非常适合无状态和容错性好的应用,比如批量数据处理或者视频渲染等,可以大大降低计算成本。基于阿里云强大的弹性计算能力,我们可以在分钟级实现千节点伸缩。
ECI弹性容器实例,基于轻量虚拟机提供了Serverless化的容器运行环境。我们可以在ACK通过调度将业务应用运行在ECI实例上。这非常适合大数据离线任务、CI/CD 作业、突发的业务扩容等。在微博的应用场景中,弹性容器实例可以在 30秒内扩容500 Pod,轻松应对突发的新闻事件。
在应用层,Kubernetes提供了HPA 的方式进行 Pod 的水平伸缩,和VPA进行Pod的垂直伸缩。阿里云提供了metrics-adapter,可以支持更加丰富的弹性指标,比如可以根据Ingress的QPS指标,动态调整应用Pod数量。另外对很多行业客户而言,应用负载的资源画像是具有周期性的。比如,我们一个证券行业的客户,业务的高峰是工作日的股市开盘时间。峰谷资源需求量的差异高达20倍,为了解决这类需求,阿里云容器服务提供了定时伸缩组件,开发者可以定义定时扩缩容策略,提前扩容好资源,而在波谷到来后定时回收资源。可以很好地平衡系统的稳定性和资源成本。
后续,我们也会发布一些基于机器学习的弹性伸缩策略,可以根据历史资源画像,实现更好地资源预测,提升弹性的SLA。
K8s提供的强大的功能和灵活性,但是运维一个Kubernetes生产集群极具挑战。即使利用托管Kubernetes服务,但是用户依然要保有worker节点资源池,还需要对节点进行日常维护,比如OS升级,安全补丁等,并根据自己的资源使用情况对资源层进行合理的容量规划。
针对K8s的复杂性挑战,阿里云推出了Serverless Kubernetes容器服务 - ASK。ASK在兼容K8s应用的前提下,我们对Kubernetes做减法,将复杂性下沉到云基础设施,极大降低了运维管理负担,提升用户体验。让开发者更加专注于应用自身。
- 对用户而言,没有节点的概念,用户无需预留任何资源,免维护,零管理
- 所有资源按需创建,运行在弹性容器实例之上,按照应用实际消耗的资源付费。
- 无需任何容量规划。
此外,ASK/ECI 支持Spot竞价实例 – 可以极大降低计算成本;支持GPU实例 – 可以大幅降低机器学习应用的复杂性。
在Serverless 容器场景,我们提供了两种不同的技术方案。ACK on ECI 和 ASK。我们该如何选择呢?
ACK集群兼具功能性和灵活性。非常适合大型互联网企业或传统企业的需求。可以一个集群中运行多种不同的应用、任务。它主要面向的是企业中SRE团队,可以对K8s进行定制化开发和灵活性控制。
ACK集群支持3种不同的容器运行时技术
- RunC容器,也就是Docker容器,与宿主机Linux共享内核,简单、高效,但是安全隔离性比较弱。一旦恶意应用利用内核漏洞逃逸,可以影响整个宿主机上其他应用。
- 为了提升安全隔离,阿里云和蚂蚁金服团队合作,引入袋鼠安全沙箱容器技术。阿里云是行业中,第一个提供RunV安全容器的公共云容器服务。相比于RunC容器,每个RunV容器具有独立内核,即使容器所属内核被攻破,也不会影响其他容器。适合运行来自第三方不可信应用或者在多租户场景下进行更好的安全隔离。此外,RunC和RunV容器都支持资源超售,用户可以自己灵活控制,来平衡稳定性和成本。
- ACK支持对弹性容器实例ECI的调度,ECI本质上基于轻量虚拟机实现安全、隔离的容器运行环境。并充分利用整个阿里云弹性计算资源池的算力,来满足客户对计算弹性的成本、规模、效率的诉求。在设计上,ECI针对容器场景充分优化,利用操作系统剪裁、ENI网卡直通、存储直接挂载等技术,保障了ECI中应用的执行效率等于甚至略优于在虚拟机中的容器运行环境。ECI目前不支持资源超售,但是提供了竞价实例,可以让用户来控制成本和计算效率的平衡。
ECI在K8s集群中适合的场景
- 在线业务突发流量 – 用户可以保有一个静态资源池应对日常流量,突发流量可以通过ECI来承载。
- 批量计算任务 – 对有些临时性、周期性的计算任务,资源规模不太容易预期或者预留大量的资源会产生浪费。我们可以让ECI来承载这样的批量数据处理任务。
- 安全隔离:有些业务应用需要运行3方不可信应用,比如一个客户上传的AI算法模型,利用ECI本身的安全沙箱进行隔离,可以安全地运行。
ASK则是针对ISV和企业中的部门/中小企业度身定制的容器产品。用户完全不需具备K8s的管理运维能力,即可创建和部署K8s应用,极大降低管理复杂性,非常适合应用托管、CI/CD、AI/数据计算等场景。比如一个客户利用ASK和GPU ECI实例构建了免运维的AI平台,可以按需创建机器学习环境,整体架构非常简单、高效。
云原生分布式应用架构具备几个关键特性,高可用、可弹性伸缩、容错性好、易于管理、便于观察、标准化、可移植。我们可以在阿里云上构建云原生应用参考架构,其中包括:
- 云原生基础设施 - 基于神龙架构的ECS企业实例
- 云原生应用平台 - ACK 容器服务
- 云原生数据库 - PolarDB
首先是端到端的弹性的应用架构。
- 我们可以将前端应用、业务逻辑容器化,部署在K8s集群上,并根据应用负载配置HPA水平伸缩。
- 在后端数据层,我们可以利用PolarDB这样的云原生数据库。PolarDB采用存储和计算分离架构,支持水平扩展。同等规格下是MySQL性能的7倍,并且相较于MySQL能够节省一半成本。
此外是系统化的高可用设计
- 利用AZ级别的反亲和性,我们可以将应用的副本实例部署在不同AZ
- 通过SLB负载均衡接入在不同AZ的应用入口
- PolarDB数据库默认提供了跨AZ高可用。
这样我们可以保障整个系统具备AZ级别的可用性,可以容忍一个AZ的失效。
此外,阿里云的高可用服务AHAS,提供了架构感知的能力,可以对系统的拓扑结构进行可视化。而且它提供了应用巡检能力,帮助我们定位可用性问题。比如应用副本数是否满足可用性需求,RDS数据库实例是否开启了多可用区容灾等等。
在一个大规模分布式系统中,基础设施(如网络,计算节点、操作系统)或者应用自身都有可能会出现各种稳定性或者性能问题。可观测性可以帮助我们解分布式系统的状态,便于做出决策,并作为弹性伸缩和自动化运维的基础。
一般而言,可观测性包含几个重要的层面
- Logging – 日志(事件流) - 我们基于阿里云日志服务SLS提供了完整的日志方案,不但可以对应用日志进行收集、处理,并且提供了操作审计,K8s事件中心等能力。
- Metrics – 监控指标 – 对基础设施服务,比如ECS、存储,网络,云监控提供了全面的监控。对于业务应用的性能指标,比如Java应用的Heap内存利用情况,ARMS无需修改业务代码即可对Java和PHP应用提供全方位的性能监控。对于K8s应用和组件,ARMS提供的托管Prometheus服务,提供多种开箱即用的预置监控大盘,也提供开放接口,便于三方集成。
- Tracing – 全链路追踪 - TracingAnalysis为开发者提供了完整的分布式应用调用链路统计、拓扑分析等工具。能够帮助开发者快速发现和诊断分布式应用中的性能瓶颈,提升微服务应用的性能和稳定性。
ARMS Prometheus是新推出的托管Prometheus云服务,提供了开放的、高可用、可扩展的监控基础设施,与自建相比可以大大降低运维复杂性和减少成本。它提供了白屏化的Exporter安装,开箱即用的大盘展示能力,用户免运维,接入3方监控能力更加便捷。
安全是企业在应用容器技术中最大的顾虑,没有之一。为了系统化提升容器平台的安全性,我们需要全方位进行安全防护。第一件事,我们需要将DevOps提升成为DevSecOps,强调需将安全概念融入在整个软件生命周期中,将安全防护能力左移到开发和交付阶段。
ACR镜像服务企业版提供了完整的安全软件交付链。用户上传镜像后,ACR可以自动化地进行镜像扫描,发现其中存在的CVE漏洞。 之后可以利用KMS秘钥服务,自动化对镜像添加数字签名。在ACK中,可以配置自动化安全策略,比如只允许经过安全扫描且符合上线要求的镜像在生产环境进行发布。整个软件交付链路可观测、可追踪、策略驱动。在保障安全性的前提下,可以有效提升交付效率。
此外,在应用运行时,也会面对众多安全风险,比如新发现的CVE漏洞或者病毒攻击。 阿里云安全中心提供了运行时的安全监控和防护能力。
云安全中心可以对容器应用进程与网络情况监控,对应用的异常行为或者安全漏洞进行实时检测。发现问题后,会通过邮件、短信对用户进行通知,也提供了自动化隔离与修复能力。比如我们拿一个去年著名的挖矿蠕虫病毒为例,它会利用用户的配置错误对容器集群发动攻击。在云安全中心的帮助下,我们可以轻松发现它的踪迹并进行一键清除。
今年二月,我们发布了业内首个全托管,Istio兼容的服务网格产品ASM。服务网格的控制平面组件托管在阿里云侧,与数据平面侧的用户集群独立。通过托管模式,极大简化了Istio服务网格部署和管理的复杂性,解耦了网格与其所管理的K8s集群的生命周期,使得架构更加简单、灵活,提升了系统的稳定性和可伸缩性。此外,ASM在Istio基础上进行大量的扩展,整合了阿里云可观测性服务、日志服务等,可以帮助客户更加高效地管理网格中的应用。
在数据平面的支持上,ASM产品可以支持多种不同的计算环境,这包括了ACK Kubernetes集群、ASK集群、以及ECS虚拟机等。通过云企业网CEN,ASM可以实现多地域、跨VPC的K8s集群之间的服务网格。这样ASM可以对多地域的大规模分布式应用实现流量管理和灰度发布。此外,ASM也会很快推出多云混合云的支持。
上云已是大势所趋,但是对于企业客户而言,有些业务由于数据主权和安全隐私的考虑,无法直接上云,只能采用混合云架构。Gartner预测81%的企业将采用多云/混合云战略,混合云架构已经成为企业上云的新常态。
传统的混合云架构以云资源为中心进行抽象和管理。然而不同云环境的基础设施、安全架构能力的差异会造成企业IT架构和运维体系的割裂,加大混合云实施的复杂性,提升运维成本。
在云原生时代,以Kubernetes为代表的技术屏蔽了基础设施的差异性,可以更好地在混合云环境下,进行统一资源调度和统一应用生命周期管理。以应用为中心的混合云2.0 架构已经到来!
这里有几个典型场景
- 利用公共云的弹性算力应对突发流量。线下数据中心承载日常流量,当业务突增时,通过云资源扩容,承载突发流量。
- 利用公共云构建低成本的云灾备中心。线上线下两套系统,线上系统作为热备。当线下数据中心发生故障时,可以快速将业务流量切换到云上。
- 构建异地多活的应用架构。在云上多个地域部署单元化的业务系统,并提供统一的服务治理能力。当一个地域发生故障时,将业务流量迁移到其他地域提升业务连续性。
基于ACK和阿里云的混合云网络、存储网关以及数据库复制等能力,我们可以帮助企业构建全新的混合云IT架构。
我们来介绍一下混合云 2.0的架构能力,
- 首先ACK提供了统一集群管理能力,除了可以管理阿里云K8s集群之外,还可以纳管用户在IDC的自有K8s集群和其他云的K8s集群。利用统一的控制平面实现多个集群的统一的安全治理、可观测性、应用管理、备份恢复等能力。比如利用日志服务、托管Prometheus服务,可以无侵入的方式帮助用户对线上、线下集群有一个统一的可观测性大盘。利用云安全中心,AHAS可以帮助客户在混合云的整体架构中发现并解决安全和稳定性风险。
- 此外ASM提供统一的服务治理能力,结合CEN、SAG提供的多地域、混合云网络能力,可以实现服务就近访问,故障转移,灰度发布等功能,支持云容灾、异地多活等应用场景,提升业务连续性。
一个客户案例:职优你是一个电子学习职业发展平台,为来自世界多个地区的用户提供服务。它的应用部署在阿里云的4个不同地域上多个Kubernetes集群中。这些集群通过云企业网CEN将多个跨地域VPC网络打通,并通过一个ASM服务网格,对多个K8s集群中的微服务应用进行统一的流量管理。
服务路由策略由ASM控制平面统一管理,并下发到多个K8s集群。用户请求会经过DNS分流到最近地域的入口网关,之后通过服务网格的就近访问能力,优先访问本地域内的服务端点。如果本地域的服务不可用,可以将请求自动转移到其他地域实现流量切换。
阿里云的混合云解决方案有几个重要特点
- ACK提供了统一的集群管理,统一的安全治理,统一的应用管理和可观测性。
- CEN实现了全地域网络连通,通过高速、低延时的网络互连。
- ASM支持统一的智能化应用流量管理,可以优化服务访问,提升业务连续性。
我们来谈一下对Windows容器的支持。在现今企业中,Windows操作系统依然占据半壁*,其市场分额达60%之多。企业还有有大量的Windows应用,比如ERP,CRM,ASP.Net网站等。利用Windows容器和Kubernetes, 可以让.Net应用在代码不重写的情况下实现容器化交付,充分利用云上的弹性、敏捷等能力,实现业务应用的快速迭代和伸缩。
ACK 支持Windows 2019,在K8s容器集群中
-
为Linux和Windows应用提供了一致的用户体验和统一的能力
- 支持CPU、内存、存储卷等资源调度和编排
- 支持无状态/有状态等多种不同应用负载
-
支持Linux和Windows应用在集群中的混合部署和互连互通
- 比如我们可以让运行在Linux节点的PHP应用访问运行在Windows节点的SQL Server数据库.
我们已经在支持了聚石塔电商平台和supET工业互联网平台支持了很多ISV来对Windows应用进行云原生化改造、升级。
下面我们快速介绍一下阿里云在云原生方面的产品市场策略。我们可以总结为三条:
新基石 - 容器技术是用户使用云资源的新界面。云原生技术是释放云价值的最短路径。
- 支撑全球化应用交付:通过ACR EE,可以实现一次提交、全球发布,发布效率提升7倍。
- 实现Serverless化应用架构:利用ASK/Knative,让开发者聚焦业务应用,无需管理基础设施; 在突发业务场景,可以将成本降低至包年包月的1/3
- 支持混合云、多云架构:帮助企业客户平滑上云,让工作负载在不同环境动态迁移。
- 构建云-边-端一体的分布式云架构:将云的能力延伸到边缘和设备端,更好迎接5G和AIoT时代的创新机遇。优酷在应用边缘容器技术后,API端到端网络延迟降低了75%。
新算力 - 基于云原生的软硬一体化技术创新,提升计算效率,加速业务智能化升级。
- 容器和神龙架构相结合,性能优于物理机20%。
- 支持GPU,NPU(含光芯片)等异构算力的调度和共享,可以实现利用率 2 ~ 4 倍提升。
- 安全沙箱容器在强安全隔离的同时,实现原生进程90%性能。也推出了基于Intel SGX的机密计算的支持,可以为隐私和机密信息处理提供安全、可信的执行环境。
新生态 - 通过开放技术生态和全球合作伙伴计划,帮助更多企业分享云时代技术红利。
- 容器云应用市场 – 链接企业与云原生创新,已入驻Fortinet、驻云、Intel等多家合作伙伴,覆盖了从容器安全、监控到业务应用的不同商品,便于用户获得完整的容器化解决方案。
- 全球合作伙伴生态 - 我们和 SAP,红帽,Rancher,Click2Cloud,BanzaiCloud等全球技术合作伙伴进行了产品能力集成。帮助企业客户在阿里云上用好云原生技术。
最后感谢大家的聆听,也期待与您的交流和反馈。