如何解决Docker容器间通信的安全问题——TLS加密通信

一、Docker容器与虚拟机的区别

1.1 隔离与共享

虚拟机通过添加 Hypervisor 层,虚拟出网卡、内存、CPU 等虚拟硬件,再在其上建立 虚拟机,每个虚拟机都有自己的系统内核。
而 Docker 容器则是通过隔离的方式,将文件系 统、进程、设备、网络等资源进行隔离,再对权限、CPU 资源等进行控制,最终让容器之间互不影响,
容器无法影响宿主机。容器与宿主机共享内核、文件系统、硬件等资源。

1.2 性能与损耗

与虚拟机相比,容器资源损耗要少。 同样的宿主机下,能够建立容器的数量要比虚拟 机多。但是,虚拟机的安全性要比容器稍好,
要从虚拟机攻破到宿主机或其他虚拟机,需要 先攻破 Hypervisor 层,这是极其困难的。而 docker 容器与宿主机共享内核、文件系统等资源,
更有可能对其他容器、宿主机产生影响。

二、Docker存在的安全问题

2.1 Docker 自身漏洞

作为一款应用 Docker 本身实现上会有代码缺陷。CVE官方记录Docker历史版本共有超过20项漏洞。
黑客常用的攻击手段主要有代码执行、权限提升、 信息泄露、权限绕过等。目前 Docker 版本更迭非常快,
Docker 用户最好将 Docker 升级为 最新版本。

2.2 Docker 源码问题

Docker 提供了 Docker hub,可以让用户上传创建的镜像,以便其他用户下载,快速搭 建环境。但同时也带来了一些安全问题。例如下面三种方式:

  • 黑客上传恶意镜像 如果有黑客在制作的镜像中植入木马、后门等恶意软件,那么环境从一开始就已经不安全了,后续更没有什么安全可言。
  • 镜像使用有漏洞的软件 Docker Hub 上能下载的镜像里面,75%的镜像都安装了有漏洞的软件。所以下载镜像后,需要检查里面软件的版本信息,对应的版本是否存在漏洞,并及时更新打上补丁。
  • 中间人攻击篡改镜像 镜像在传输过程中可能被篡改,目前新版本的 Docker 已经提供了相应的校验机制来预 防这个问题。

2.3 Docker构架缺陷

Docker 本身的架构与机制就可能产生问题,例如这样一种攻击场景,黑客已经控制了宿主机上的一些容器,或者获得了通过在公有云上建立容器的方式,然后对宿主机或其他容器发起攻击。

2.3.1 容器之间的局域网攻击

主机上的容器之间可以构成局域网,因此针对局域网的 ARP 欺骗、嗅探、广播风暴等攻 击方式便可以用上。
所以,在一个主机上部署多个容器需要合理的配置网络,设置 iptable 规则。

2.3.2 DDoS 攻击耗尽资源

Cgroups 安全机制就是要防止此类攻击的,不要为单一的容器分配过多的资源即可避免此类问题。

2.3.3 有漏洞的系统调用

Docker与虚拟机的一个重要的区别就是Docker与宿主机共用一个操作系统内核。
一旦宿主内核存在可以越权或者提权漏洞,尽管Docker使用普通用户执行,在容器被入侵时,攻击者还可以利用内核漏洞跳到宿主机做更多的事情。

2.3.4 共享root用户权限

如果以 root 用户权限运行容器,容器内的 root 用户也就拥有了宿主机的root权限。

三、Docker的安全机制

下面从内核、主机、网络、镜像、容器以及其它等 6 个方 面总结 Docker 安全基线标准。

3.1 内核级别

(1)及时更新内核。
(2)User NameSpace(容器内的 root 权限在容器之外处于非高权限状态)。
(3)Cgroups(对资源的配额和度量)。
(4)SELiux/AppArmor/GRSEC(控制文件访问权限)。
(5)Capability(权限划分)。
(6)Seccomp(限定系统调用)。
(7)禁止将容器的命名空间与宿主机进程命名空间共享。

3.2 主机级别

(1)为容器创建独立分区。
(2)仅运行必要的服务。
(3)禁止将宿主机上敏感目录映射到容器。
(4)对 Docker 守护进程、相关文件和目录进行审计。
(5)设置适当的默认文件描述符数。
(文件描述符:内核(kernel)利用文件描述符(file descriptor)来访问文件。文件描述符是非负整数。
打开现存文件或新建文件时,内核会返回一个文件描述符。读写文件也需要使用文件描述符来指定待读写的文件)
(6)用户权限为 root 的 Docker 相关文件的访问权限应该为 644 或者更低权限。
(7)周期性检查每个主机的容器清单,并清理不必要的容器。

3.3 网络级别

(1)通过 iptables 设定规则实现禁止或允许容器之间网络流量。
(2)允许 Docker 修改 iptables。
(3)禁止将 Docker 绑定到其他 IP/Port 或者 Unix Socket。
(4)禁止在容器上映射特权端口。
(5)容器上只开放所需要的端口。
(6)禁止在容器上使用主机网络模式。
(7)若宿主机有多个网卡,将容器进入流量绑定到特定的主机网卡上。

3.4 镜像级别

(1)创建本地镜像仓库服务器。
(2)镜像中软件都为最新版本。
(3)使用可信镜像文件,并通过安全通道下载。
(4)重新构建镜像而非对容器和镜像打补丁。
(5)合理管理镜像标签,及时移除不再使用的镜像。
(6)使用镜像扫描。
(7)使用镜像签名。

3.5 容器级别

(1)容器最小化,操作系统镜像最小集。
(2)容器以单一主进程的方式运行。
(3)禁止 privileged 标记使用特权容器。
(4)禁止在容器上运行 ssh 服务。
(5)以只读的方式挂载容器的根目录系统。
(6)明确定义属于容器的数据盘符。
(7)通过设置 on-failure 限制容器尝试重启的次数,容器反复重启容易丢失数据。
(8)限制在容器中可用的进程树,以防止 fork bomb。(fork炸弹,迅速增长子进程,耗尽系统进程数量)

3.6 其他设置

(1)定期对宿主机系统及容器进行安全审计。
(2)使用最少资源和最低权限运行容器。
(3)避免在同一宿主机上部署大量容器,维持在一个能够管理的数量。
(4)监控 Docker 容器的使用,性能以及其他各项指标。
(5)增加实时威胁检测和事件响应功能。
(6)使用中心和远程日志收集服务

四、解决Docker远程访问控制的安全问题

4.1 Docker remote api 访问控制

Docker的远程调用 API 接口存在未授权访问漏洞,至少应限制外网访问。建议使用 Socket 方式访问。
监听内网 ip,docker daemon 启动方式如下。

docker -d -H uninx:///var/run/docker.sock -H tcp://192.168.247.140:2375 

或:

[root@server2 ~]# vi /usr/lib/systemd/system/docker.service 
#开发本地监听地址和端口,允许远程通过此端口访问docker容器
ExecStart=/usr/bin/dockerd -H unix:///var/run/docker.sock -H tcp://192.168.247.140:2375
[root@server2 ~]# systemctl daemon-reload 
[root@server2 ~]# systemctl restart docker #重启docker
#做IP访问控制,允许192.168.247.150通过tcp协议,永久访问
[root@server2 ~]# firewall-cmd --permanent --add-rich-rule="rule family="ipv4" source address="192.168.247.150" port protocol="tcp" port="2375" accept"
[root@server2 ~]# firewall-cmd --reload 
#远程客户机访问控制进行测试
[root@client1 ~]# docker -H tcp://192.168.247.140 pull nginx
Using default tag: latest
latest: Pulling from library/nginx
852e50cd189d: Pull complete 
571d7e852307: Pull complete 
addb10abd9cb: Pull complete 
d20aa7ccdb77: Pull complete 
8b03f1e11359: Pull complete 
Digest: sha256:6b1daa9462046581ac15be20277a7c75476283f969cb3a61c8725ec38d3b01c3
Status: Downloaded newer image for nginx:latest
docker.io/library/nginx:latest
[root@client1 ~]# docker -H tcp://192.168.247.140 images
REPOSITORY          TAG                 IMAGE ID            CREATED             SIZE
nginx               latest              bc9a0695f571        5 days ago          133MB

4.2 限制流量流向

使用防火墙过滤器限制 Docker 容器的源 IP 地址范围与外界通讯。

[root@server2 ~]# firewall-cmd --permanent --zone=public --add-rich-rule="rule family="ipv4" source address="192.168.247.0/24" reject"

大量问题是因为Docker容器端口外放引起的漏洞,除了操作系统账户权限控制上的问题,更在于对Docker Daemon的进程管理上存在隐患。
目前常用的Docker版本都支持Docker Daemon管理宿主iptables的,而且一旦启动进程加上-p host_port:guest_port的端口映射,
Docker Daemon会直接增加对应的FORWARD Chain并且-j ACCEPT,而默认的DROP规则是在INPUT链做的,对docker没法限制,
这就留下了很严重的安全隐患了。因此建议:

  1. 不在有外网ip的机器上使用Docker服务

  2. 使用k8s等docker编排系统管理Docker容器

  3. 宿主上Docker daemon启动命令加一个–iptables=false,然后把常用iptables写进文件里,再用iptables-restore去刷。

4.3 镜像安全

Docker 镜像安全扫描,在镜像仓库客户端使用证书认证,对下载的镜像进行检查。
通过与 CVE 数据库同步扫描镜像,一旦发现漏洞则通知用户处理,或者直接阻止镜像继续构建。

如果公司使用的是自己的镜像源,可以跳过此步;否则,至少需要验证 baseimage 的 md5 等特征值,确认一致后再基于 baseimage 进一步构建。
一般情况下,要确保只从受信任的库中获取镜像,并且不建议使用–insecure-registry=[] 参数,推荐使用harbor私有仓库。

4.4 Docker-TLS加密通讯

4.4.1 TLS简介

安全传输层协议(TLS)用于在两个通信应用程序之间提供保密性和数据完整性。

该协议由两层组成: TLS 记录协议(TLS Record)和 TLS 握手协议(TLS Handshake)。

SSL包含记录层(Record Layer)和传输层,记录层协议确定传输层数据的封装格式。传输层安全协议使用X.509认证,之后利用非对称加密演算来对通信方做身份认证,之后交换对称密钥作为会谈密钥(Session key)。这个会谈密钥是用来将通信两方交换的数据做加密,保证两个应用间通信的保密性和可靠性,使客户与服务器应用之间的通信不被攻击者窃听

4.4.2 Docker-TLS的实操

为了防止链路劫持、会话劫持等问题导致 Docker 通信时被中间人攻击,c/s 两端应该通过加密方式通讯。实现了docker远程访问控制过程的安全性。
实例
首先创建CA密钥和证书:

[root@server2 ~]# mkdir /tls  #创建工作目录
[root@server2 ~]# cd /tls/
[root@server2 tls]# hostnamectl set-hostname master
[root@server2 tls]# su
[root@master tls]# vi /etc/hosts  #做映射,允许用主机名访问
172.0.0.1 master

#创建ca密钥,生成对称密钥
[root@master tls]# openssl genrsa -aes256 -out ca-key.pem 4096   
Generating RSA private key, 4096 bit long modulus
............................................................................................++
...........................++
e is 65537 (0x10001)
Enter pass phrase for ca-key.pem:   #输入生成密钥的密码,自行设置,这里我用123123
Verifying - Enter pass phrase for ca-key.pem:

#根据密钥,创建CA证书,证书格式为x509规范,证书有效期1000天,命名为ca.pem,-sha256哈希验证用于保证数据通信完整性
[root@master tls]# openssl req -new -x509 -days 1000 -key ca-key.pem -sha256 -subj "/CN=*" -out ca.pem
Enter pass phrase for ca-key.pem:  #输入123123

#在当前目录下就生成了一对密钥和证书
[root@master tls]# ll
总用量 8
-rw-r--r--. 1 root root 3326 12月  3 14:47 ca-key.pem
-rw-r--r--. 1 root root 1765 12月  3 14:49 ca.pem

基于CA证书,创建服务端的密钥和证书

#创建服务器私钥
[root@master tls]# openssl genrsa -out server-key.pem 4096
Generating RSA private key, 4096 bit long modulus
.++
....................++
e is 65537 (0x10001)

#签名私钥
[root@master tls]# openssl req -subj "/CN=*" -sha256 -new -key server-key.pem -out server.csr

#使用ca的证书与密钥、私钥的签名,创建服务器的证书,名为server-cert.pem,输入123123(CA的密钥)
[root@master tls]# openssl x509 -req -days 1000 -sha256 -in server.csr -CA ca.pem -CAkey ca-key.pem -CAcreateserial -out server-cert.pem
Signature ok
subject=/CN=*
Getting CA Private Key
Enter pass phrase for ca-key.pem:

创建客户端密钥和证书

#生成密钥
[root@master tls]# openssl genrsa -out key.pem 5096
Generating RSA private key, 5096 bit long modulus
....................++
......++
e is 65537 (0x10001)

#签名密钥
[root@master tls]# openssl req -subj "/CN=client" -new -key key.pem  -out client.csr

#创建配置文件,表名是客户端证书
[root@master tls]# echo extendedKeyUsage=clientAuth > extfile.cnf

#签名客户端,CA证书,CA密钥,创建客户端证书名为cert.pem
[root@master tls]# openssl x509 -req -days 1000 -sha256 -in client.csr -CA ca.pem -CAkey ca-key.pem -CAcreateserial -out cert.pem -extfile extfile.cnf
Signature ok
subject=/CN=client
Getting CA Private Key
Enter pass phrase for ca-key.pem:  #输入123123

删除多余的文件,只留下三对证书与密钥(CA、服务端、客户端)

[root@master tls]# rm -rf server.csr client.csr ca.srl extfile.cnf 
[root@master tls]# ll
总用量 24
-rw-r--r--. 1 root root 3326 12月  3 14:47 ca-key.pem
-rw-r--r--. 1 root root 1765 12月  3 14:49 ca.pem
-rw-r--r--. 1 root root 1866 12月  3 14:56 cert.pem
-rw-r--r--. 1 root root 4007 12月  3 14:52 key.pem
-rw-r--r--. 1 root root 1647 12月  3 14:51 server-cert.pem
-rw-r--r--. 1 root root 3243 12月  3 14:49 server-key.pem

配置docker,支持TLS加密通信

[root@master tls]# vi /lib/systemd/system/docker.service 
ExecStart=/usr/bin/dockerd --tlsverify --tlscacert=/tls/ca.pem --tlscert=/tls/server-cert.pem --tlskey=/tls/server-key.pem -H tcp://0.0.0.0:2376 -H unix:///var/run/docker.sock   
#配置TLS,配置本机服务端密钥和证书,sock文件就是用来实现通讯的文件,暴露2376端口给远程访问

#重启进程,和docker服务
[root@master tls]# systemctl daemon-reload 
[root@master tls]# systemctl restart docker.service 

将 /tls/ca.pem /tls/cert.pem /tls/key.pem 三个文件复制到客户机

[root@master tls]# scp cert.pem root@192.168.247.150:/etc/docker/
root@192.168.247.150's password: 
cert.pem                                                     100% 1696   202.4KB/s   00:00    
[root@master tls]# scp key.pem root@192.168.247.150:/etc/docker/
root@192.168.247.150's password: 
key.pem                                                      100% 3247   338.2KB/s   00:00 
[root@master tls]# scp ca.pem root@192.168.247.150:/etc/docker/
root@192.168.247.150's password: 
ca.pem                                                       100% 1765   190.9KB/s   00:00  

#客户端查看
[root@client1 docker]# ll
总用量 20
-rw-r--r--. 1 root root 1765 11月 30 17:33 ca.pem
-rw-r--r--. 1 root root 1696 11月 30 17:31 cert.pem
-rw-r--r--. 1 root root   68 11月 30 15:26 daemon.json
-rw-------. 1 root root  244 11月 30 15:22 key.json
-rw-r--r--. 1 root root 3247 11月 30 17:31 key.pem

客户端添加服务端的映射,可用主机名访问

[root@client1 docker]# vi /etc/hosts
192.168.247.140 master

客户机以TLS方式远程连接服务端容器

#查看version版本信息,也可跟其他命令对容器进行操作
[root@client1 docker]# docker --tlsverify --tlscacert=ca.pem --tlscert=cert.pem --tlskey=key.pem -H tcp://master:2376 version  
Client: Docker Engine - Community
 Version:           19.03.13
 API version:       1.40
 Go version:        go1.13.15
 Git commit:        4484c46d9d
 Built:             Wed Sep 16 17:03:45 2020
 OS/Arch:           linux/amd64
 Experimental:      false

Server: Docker Engine - Community
 Engine:
  Version:          19.03.13
  API version:      1.40 (minimum version 1.12)
  Go version:       go1.13.15
  Git commit:       4484c46d9d
  Built:            Wed Sep 16 17:02:21 2020
  OS/Arch:          linux/amd64
  Experimental:     false
 containerd:
  Version:          1.3.7
  GitCommit:        8fba4e9a7d01810a393d5d25a3621dc101981175
 runc:
  Version:          1.0.0-rc10
  GitCommit:        dc9208a3303feef5b3839f4323d9beb36df0a9dd
 docker-init:
  Version:          0.18.0
  GitCommit:        fec3683

4.5 Dockerfile 敏感信息查看

2016 年的 8 月 Github 上大量泄露个人或企业各种账号密码,出现这种问题一般都使用 dockerfile 或者 docker-compose 文件创建容器。
如果这些文件中存在账号密码等认证信息, 一旦 Docker 容器对外开放,则这些宿主机上的敏感信息也会随之泄露。
因此可以通过以下 方式检查容器创建模板的内容。

# check created users 
grep authorized_keys $dockerfile 
# check OS users 
grep "etc/group" $dockerfile 
# Check sudo users 
grep "etc/sudoers.d" $dockerfile 
# Check ssh key pair 
grep ".ssh/.*id_rsa" $dockerfile 
# Add your checks in below
上一篇:docker安全管理和部署TLS加密通信


下一篇:HELLO---------kubernetes 集群部署之ETCD数据库部署