主要用到openvswitch和netns网络名称空间的相关知识还有ip命令的使用。
实验环境的结构图如下:
思路如下:
- 安装openvswitch
- ovs创建br0,br1,并启动两个不加载网络的docker容器
- 将容器关联网桥br0,并设置ip、vlan
- 创建veth0与veth1网卡对
- 创建netns名称空间,并添加veth0.0和veth1.0接口,并配置相关信息
- 将veth0.1和veth1.1分别桥接至br0,br1,并配置相关信息
- 添加SNAT和DNAT规则
- 给br1配置ip测试连通
具体步骤如下
# yum install -y openvswitch
下载OpenvSwitch项目提供的支持Docker容器的辅助脚本ovs-docker:
# wget https://github.com/openvswitch/ovs/raw/master/utilities/ovs-docker
# chmod a+x ovs-docker
此处脚本最好放在/root目录下,后续使用ovs-docker命令需要用到
# ovs-vsctl add-br br0
# ovs-vsctl add-br br0
# ip link set br0 up
# ip link set br1 up
# docker run –it –privileged=true –net=none –name box1 busybox:latest /bin/sh
# docker run –it –privileged=true –net=none –name box2 busybox:latest /bin/sh
通过ctrl p+ctrl q可以退出容器并且不关闭容器
# ./ovs-docker add-port br0 eth0 box1 –ipaddress=10.0.0.1/24 –gateway=10.0.0.253
# ./ovs-docker set-vlan br0 eth0 box1 5
# ./ovs-docker add-port br0 eth0 box2 –ipaddress=10.0.0.2/24 –gateway=10.0.0.253
# ./ovs-docker set-vlan br0 eth0 box2 5
此时可以先测试容器的互通性,两容器相互ping测试。
# ip link add veth0.0 type veth peer name veth0.1
# ip link add veth1.0 type veth peer name veth1.1
注意开启:net.ipv4.ip_forward=1
# ip netns add r1 创建netns名称空间r1
# ip link set veth0.0 netns r1 添加两个接口
# ip link set veth1.0 netns r1
# ip netns exec r1 ip link set veth0.0 up 启动两个接口
# ip netns exec r1 ip link set veth1.0 up
# ip netns exec r1 ip addr add 192.168.2.221/24 dev veth1.0 给veth1.0添加ip
# ip netns exec r1 ifconfig veth1.0:1 192.168.1.223/24 up 配置两个浮动ip
# ip netns exec r1 ifconfig veth1.0:2 192.168.1.224/24 up
# ip netns exec r1 ip addr add 10.0.0.253/24 dev veth0.1 配置容器的网关地址
# ovs-vsctl add-port br0 veth0.1
# ovs-vsctl add-port br1 veth1.1
# ip link set veth0.1 up
# ip link set veth1.1 up
# ovs-vsctl set port veth0.1 tag=5 tag实际就是配置vlan,否则在vlan 5的容器内流量不会经过此接口
此时可以测试容器的通信(容器内ping 10.0.0.253,ping 192.168.1.221)
SNAT:使得容器box1和box2能访问外网
# ip netns exec r1 iptables –t nat –A POSTROUTING –s 10.0.0.1/32 –j SNAT –-to-source 192.168.2.223
# ip netns exec r1 iptables –t nat –A POSTROUTING –s 10.0.0.2/32 –j SNAT –-to-source 192.168.2.224
DNAT:使得外网能够访问容器
# ip netns exec r1 iptables –t nat –A PREROUTING –d 192.168.2.223/32 –j DNAT –-to-destination 10.0.0.1
# ip netns exec r1 iptables –t nat –A PREROUTING –d 192.168.2.224/32 –j DNAT -–to-destination 10.0.0.2
# ifconfig br1 192.168.1.122
最后网桥br0和br1的接口信息:
测试整个网络的通信
在容器中(box1):ping 10.0.0.2,ping 10.0.0.253,ping 192.168.1.221,ping 192.168.1.223,ping 192.168.1.224,ping 192.168.1.122,ping 192.168.1.222(本机ip)
在本机中(192.168.1.222):ping 192.168.1.122,ping 192.168.1.223,ping 192.168.1.224,ping 192.168.1.221
以上