重置Kubernetes集群

Question

我的网络中有六台台式机，我想构建两个Kubernetes集群。每台机器都安装了Ubuntu 16.04 LTS。最初，所有机器都是单个集群的一部分。但是，我删除了其中三台机器以设置另一个集群，并在每台机器上执行以下命令：

RESET COMMAND:
sudo kubeadm reset -f && 
 sudo systemctl stop kubelet && 
 sudo systemctl stop docker && 
 sudo rm -rf /var/lib/cni/ && 
 sudo rm -rf /var/lib/kubelet/* && 
 sudo rm -rf /etc/cni/ && 
 sudo ifconfig cni0 down && 
 sudo ifconfig flannel.1 down && 
 sudo ifconfig docker0 down && 
 sudo ip link delete cni0 && 
 sudo ip link delete flannel.1

在此之后，我重新启动了每台机器，并通过设置主节点继续设置新集群：

INSTALL COMMAND:
sudo kubeadm init phase certs all && 
 sudo kubeadm init phase kubeconfig all && 
 sudo kubeadm init phase control-plane all --pod-network-cidr 10.244.0.0/16 &&
 sudo sed -i 's/initialDelaySeconds: [0-9][0-9]/initialDelaySeconds: 240/g' /etc/kubernetes/manifests/kube-apiserver.yaml &&
 sudo sed -i 's/failureThreshold: [0-9]/failureThreshold: 18/g' /etc/kubernetes/manifests/kube-apiserver.yaml &&
 sudo sed -i 's/timeoutSeconds: [0-9][0-9]/timeoutSeconds: 20/g' /etc/kubernetes/manifests/kube-apiserver.yaml &&
 sudo kubeadm init \
   --v=1 \
   --skip-phases=certs,kubeconfig,control-plane \
   --ignore-preflight-errors=all \
   --pod-network-cidr 10.244.0.0/16  

在此之后，我还安装了法兰绒。在成功安装主服务器之后，我继续执行kubeadm join以添加其他两台机器。添加这些机器后，我在主节点上安装了NGINX-Ingress。

现在，我想要重置集群，并再次重新进行此设置。我使用reset命令重置了每台机器，并在主节点上继续执行INSTALL命令。但是，在我运行安装命令并运行kubectl get pods --all-namespaces之后，我仍然可以看到上一次安装中的pod：

NAMESPACE       NAME                              READY   STATUS              RESTARTS   AGE
kube-system     coredns-fb8b8dccf-h5hhk           0/1     ContainerCreating   1          20h
kube-system     coredns-fb8b8dccf-jblmv           0/1     ContainerCreating   1          20h
kube-system     etcd-ubuntu6                      1/1     Running             0          19h
kube-system     kube-apiserver-ubuntu6            1/1     Running             0          76m
kube-system     kube-controller-manager-ubuntu6   0/1     CrashLoopBackOff    7          75m
kube-system     kube-flannel-ds-amd64-4pqq6       1/1     Running             0          20h
kube-system     kube-flannel-ds-amd64-dvfmp       0/1     CrashLoopBackOff    7          20h
kube-system     kube-flannel-ds-amd64-dz9st       1/1     Terminating         0          20h
kube-system     kube-proxy-9vfjx                  1/1     Running             0          20h
kube-system     kube-proxy-q5c86                  1/1     Running             0          20h
kube-system     kube-proxy-zlw4v                  1/1     Running             0          20h
kube-system     kube-scheduler-ubuntu6            1/1     Running             0          76m
nginx-ingress   nginx-ingress-6957586bf6-fg2tt    0/1     Terminating         22         19h

为什么我会看到以前安装的pods？

Answer 1

因此，基本上，当您使用kubeadm创建单个控制平面群集时，您安装的群集具有单个控制平面节点，并且在其上运行单个etcd数据库。

kubeadm使用的默认etcd目录是控制平面节点上的/var/lib/etcd。您应该对其进行清理，以避免恢复以前的集群配置。

顺便说一句，k8s 1.15也有相同的issue。它应该修复为1.15.1 https://github.com/kubernetes/sig-release/blob/3a3c9f92ef484656f0cb4867f32491777d629952/releases/patch-releases.md#115