Kubernetes在1.8的版本中引入了一种类似于CPU,内存的新的资源模式:ephemeral-storage
,并且在1.10的版本在kubelet中默认打开了这个特性。ephemeral-storage
是为了管理和调度Kubernetes中运行的应用的短暂存储。在每个Kubernetes的节点上,kubelet的根目录(默认是/var/lib/kubelet)和日志目录(/var/log)保存在节点的主分区上,这个分区同时也会被Pod的EmptyDir类型的volume、容器日志、镜像的层、容器的可写层所占用。ephemeral-storage
便是对这块主分区进行管理,通过应用定义的需求(requests)和约束(limits)来调度和管理节点上的应用对主分区的消耗。
在节点上的kubelet
启动的时候,kubelet
会统计当前节点的主分区的可分配的磁盘资源,或者你可以覆盖节点上kubelet
的配置来自定义可分配的资源。在创建Pod
时会根据存储需求调度到满足存储的节点,在Pod
使用超过限制的存储时会对其做驱逐的处理来保证不会耗尽节点上的磁盘空间。
如果运行时指定了别的独立的分区,比如修改了docker的镜像层和容器可写层的存储位置(默认是/var/lib/docker)所在的分区,将不再将其计入
ephemeral-storage
的消耗。
体验ephemeral-storage
准备支持ephemeral-storage
的集群
首先我们需要准备个1.10的版本的集群,可以通过minikube方便的在本地创建出一个kubernetes集群,具体可以参考这篇博客:https://yq.aliyun.com/articles/221687
创建好集群后可以通过kubectl version
确保集群的版本在1.10以上。
创建验证的Pod
和内存和CPU的限制类似,存储的限制的也是定义在Pod的spec.containers[].resources.limits.ephemeral-storage
和spec.containers[].resources.requests.ephemeral-storage
配置中。
例如:
apiVersion: v1
kind: Pod
metadata:
name: teststorage
labels:
app: teststorage
spec:
containers:
- name: busybox
image: busybox
command: ["bash", "-c", "while true; do dd if=/dev/zero of=$(date '+%s').out count=1 bs=10MB; sleep 1; done"] # 持续写入文件到容器的rootfs中
resources:
limits:
ephemeral-storage: 100Mi #定义存储的限制为100M
requests:
ephemeral-storage: 100Mi
测试这个Pod就能发现在容器写入超过存储限制时就会被驱逐掉了:
/tmp kubectl apply -f pod.yaml
pod "teststorage" created
/tmp kubectl get pod -w
NAME READY STATUS RESTARTS AGE
teststorage 0/1 ContainerCreating 0 3s
teststorage 1/1 Running 0 7s
teststorage 0/1 Evicted 0 1m
查看kubernetes的pod的事件也能看到它是由于超过了限制的ephemeral-storage
被驱逐掉:
Events:
Type Reason Age From Message
---- ------ ---- ---- -------
Normal Scheduled 2m default-scheduler Successfully assigned teststorage to minikube
Normal SuccessfulMountVolume 2m kubelet, minikube MountVolume.SetUp succeeded for volume "default-token-l7wp9"
Normal Pulling 2m kubelet, minikube pulling image "busybox"
Normal Pulled 2m kubelet, minikube Successfully pulled image "busybox"
Normal Created 2m kubelet, minikube Created container
Normal Started 2m kubelet, minikube Started container
Warning Evicted 1m kubelet, minikube pod ephemeral local storage usage exceeds the total limit of containers {{104857600 0} {<nil>} 100Mi BinarySI}
Normal Killing 1m kubelet, minikube Killing container with id docker://busybox:Need to kill Pod
阿里云Kubernetes服务 全球首批通过Kubernetes一致性认证,简化了Kubernetes集群生命周期管理,内置了与阿里云产品集成,也将进一步简化Kubernetes的开发者体验,帮助用户关注云端应用价值创新。