随着云原生时代的发展,传统 IT 基础设施加速云化,云原生化成为云上的必然趋势。作为云原生代表技术之一,容器技术可帮助企业提升 IT 架构的敏捷性,加速应用创新,帮助企业更加灵活地应对商业发展中的不确定性。疫情期间,在线教育、音视频、公共健康等行业出现了大幅度的增长。一些基于云计算和容器技术的公司,很好地把握住了业务快速增长的机遇,实现了自身的跨越式发展。
容器规模化落地已成为企业发展“必修课”
疫情加速了企业数字化的发展进程,低延时和高并发的线上场景频繁出现在企业日常经营中,业务创新的需求也在倒逼企业不断运用新兴技术手段。现如今,Kubernetes 逐渐成为云原生时代的基础设施,容器技术被广泛应用于人工智能、大数据、区块链、边缘计算等场景,作为轻量化的计算载体,为更多的场景赋予高度的弹性与敏捷性。在日常经营和业务创新的双重压力之下,越来越多的企业从小规模试用到全面拥抱容器规模化落地,以保障企业业务能够健康且长远发展。
据信通院《 2020 年中国云原生用户调查报告》显示, 60% 以上的用户已在生产环境中应用容器技术,近八成用户的生产需求需要 1000 及以上的节点规模满足,超过 13% 的用户容器规模已超过 5000 节点, 9% 的用户容器规模大于 10000 节点。随着云原生技术的进一步普及,越来越多的企业核心业务切换到容器,企业生产环境容器集群规模呈现爆发式增长趋势,容器规模化落地已成为企业发展“必修课”。目前开源版本 Kubernetes 最多可以支撑 5 千节点及 15 万 Pod ,已经无法满足日益增长的业务需求。
容器规模化落地企业要过哪些难关
大规模容器集群可以提供更大的业务负载能力,更高的流量突发能力,更加高效的集群管理方式。作为云原生领域的实践者和引领者,阿里云率先实现了单集群 1 万节点 1 百万 Pod 的规模突破,相比于社区版 Kubernetes ,单集群节点数在社区基础上提高了 2 倍,Pod 数提升了 6.7 倍。基于服务百万客户的经验,阿里云沉淀了“容器规模化落地四步走”的路径方法,可帮助企业克服容器规模化落地过程中的难关,轻松应对不断增加的规模化需求。
第一步:如何判断自身是否需要容器集群规模化?
当企业面临流量突发型业务、复杂计算型业务、需进一步提高运维效率等业务或 IT 诉求,单集群的容量成为当前掣肘发展的瓶颈。例如基因计算、在线秒杀等业务,会在短时间会产生大量的负载,对单集群能容纳的计算资源提出了严峻的挑战,亟需单个集群能够支持大规模的节点来批量运行 Pod 。基于此,企业就要开始考虑集群扩容了,不过追求集群规模大,并不是一针见效的万能“银弹”, 企业需要根据自身业务发展特性,优化集群能力实现业务价值,盲目追求集群规模化将扩大整个故障域的风险。
第二步:容器规模化不是简单扩大规模的大小,如何自下而上实现一整套体系优化,打通任督二脉?
Kubernetes 作为云原生时代的操作系统,其自身及其部署的云环境是非常复杂庞大的,因此容器规模化是从底层云资源到上层应用的一整套优化体系。企业用户需要重点解决三个层面的优化,1、在云产品层面打破对云资源配额的限制;2、在集群组件层面提升资源规模化的天花板;3、在 Kubernetes 资源层面优化集群配置策略来保证资源规模化能力。
第三步:容器规模化后难以保障原有性能不受损,如何实现性能进一步提升,做个“灵活的巨人”?
容器集群规模被放大 N 倍之后,对存储、集群网络、应用分发等性能都提出了巨大挑战,例如大规模集群数据中心内网络流量通常较大,网络延迟与抖动的问题也会随之被放大,影响集群网络传输效率和稳定。还有大规模集群下批量发布更新应用的常规场景,1w 个节点瞬时的镜像拉取会产生巨大的网络冲击,给镜像服务和网络带宽带来了巨大的压力。容器规模化的初衷是提供更强大的技术支撑力,不仅要保障原有性能,还需要进一步提升整体性能。企业用户可重点从四个方面入手优化:Node&Pod 规模化效率、网络效率(吞吐与延迟)、 DNS 解析效率、镜像加速。
第四步:容器规模化后最惊心动魄的难关是“稳定”
如果说集群规模化是第一步,那么稳定的运行上万节点的集群才是更加惊心动魄的,庞大的系统最重要的就是控制故障域,防止雪崩。相对于规模而言,容器规模化后的稳定性更加重要,因为大规模集群的恢复不是简单的重启就能够解决的,一旦雪崩开始,整体崩溃不可避免,严重影响业务接续性。对于企业而言,大规模集群的稳定性就是业务在线的安全性。企业用户重点需要考虑事前止血预案、资源索引和系统组件优化、以及监控所有节点随时启动自愈流程。
阿里云帮助企业一站式实现容器规模化落地
针对大规模集群在企业落地的种种难关,阿里云基于 ACK Pro 提供了企业级的容器集群管理能力,在 APIServer 和调度器上提供了大量性能优化,打破资源规模限制、提升性能天花板、保证集群稳定性。通过自研高性能容器网络 Terway ,优化 Pod 延迟 30% ,降低大规模 Service 的性能开销,不仅可解决大规模集群的网络瓶颈问题,而且提供几乎云上原生的网络性能,使得集群响应更迅速。企业级镜像仓库 ACR EE 支持独享存储,提供按需加载镜像的能力,降低启动时间 60% ,可解决大规模节点拉取镜像慢的问题。整合阿里云存储、网络和安全能力,阿里云一站式为企业提供容器规模化运行的最佳性能:更加高效的网络转发、更强扩展能力的存储、更高效的应用与镜像分发、更稳定安全的大规模集群管理。
值得一提的是,阿里云在近日 2020 云原生产业大会中,成为首家通过信通院容器规模化性能测试的云服务商,获得*别认证—“卓越”级别。在信通院的容器规模化测评中,阿里云容器服务的满负载压力测试、网络延时、网络性能损耗等多项测评结果,在参与测评的厂商中遥遥领先。
基于此,阿里云拥有足够弹性的“服务能力空间”,可根据企业业务量身定制满足当前所需的容器集群服务,除了支撑阿里集团内部核心系统容器化上云和阿里云的云产品本身,也将多年的大规模容器技术以产品化的能力输出给众多围绕双十一的生态公司和 ISV 公司。通过支撑来自全球各行各业的容器云,阿里云容器服务已经沉淀了支持单元化架构、全球化架构、柔性架构的云原生应用托管中台能力,管理了超过 1 万个以上的容器集群,提供企业级可靠服务。
阿里云拥有国内规模最大的容器集群、最丰富的云原生产品家族和最全面的开源贡献,提供云原生裸金属服务器、云原生数据库、数据仓库、数据湖、容器、微服务、 DevOps、Serverless 等超过 100 款创新产品,覆盖新零售、政务、医疗、交通、教育等各个领域。阿里云容器服务是国内唯一连续两次入选 Gartner 2019 年和 2020 年《竞争格局:公共云容器服务》报告的厂商,阿里云覆盖 Serverless Kubernetes 、服务网格、容器镜像等九项产品能力,与 AWS 平齐,产品丰富度领先 Google、微软、IBM 和 Oracle 四家厂商。
随着容器技术的逐渐普及,如何评价容器性能高低成为业内普遍关注的议题。针对行业痛点,中国信息通信研究院发布的业内首个超大规模容器性能测评结果,客观真实反映了容器集群组件级的性能表现。在 2020 云原生产业大会上,阿里云研究员、阿里云原生技术负责人丁宇表示,“阿里云一直致力于推动云原生在国内的普及,将与信通院一起促进中国容器市场的规范化、标准化发展。”