Kubernetes 1.8.x 全手动安装教程

Kubernetes 提供了许多云端平台与操作系统的安装方式,本章将以全手动安装方式来部署,主要是学习与了解 Kubernetes 创建流程。若想要了解更多平台的部署可以参考 Picking the Right Solution来选择自己最喜欢的方式。

本次安装版本为:

  • Kubernetes v1.8.2
  • Etcd v3.2.9
  • Calico v2.6.2
  • Docker v17.10.0-ce

预先准备信息

本教程将以下列节点数与规格来进行部署 Kubernetes 集群,操作系统可采用Ubuntu 16.x与CentOS 7.x:

IP Address Role CPU Memory
172.16.35.12 master1 1 2G
172.16.35.10 node1 1 2G
172.16.35.11 node2 1 2G
  • 这边 master 为主要控制节点也是部署节点,node 为应用程序工作节点。
  • 所有操作全部用root使用者进行,以 SRE 来说不推荐。
  • 可以下载 Vagrantfile 来建立 Virtual box 虚拟机集群。

首先安装前要确认以下几项都已将准备完成:

  • 所有节点彼此网络互通,并且master1 SSH 登入其他节点为 passwdless。
  • 所有防火墙与 SELinux 已关闭。如 CentOS:
$ systemctl stop firewalld && systemctl disable firewalld
$ setenforce 0
$ vim /etc/selinux/config
SELINUX=disabled
  • 所有节点需要设定/etc/host解析到所有主机。
...
172.16.35.10 node1
172.16.35.11 node2
172.16.35.12 master1
  • 所有节点需要安装Docker或rtk引擎。这边采用Docker来当作容器引擎,安装方式如下:
$ curl -fsSL "https://get.docker.com/" | sh

不管是在 Ubuntu 或 CentOS 都只需要执行该指令就会自动安装最新版 Docker。
CentOS 安装完成后,需要再执行以下指令:

$ systemctl enable docker && systemctl start docker

编辑/lib/systemd/system/docker.service,在ExecStart=..上面加入:

ExecStartPost=/sbin/iptables -I FORWARD -s 0.0.0.0/0 -j ACCEPT

完成后,重新启动 docker 服务:

$ systemctl daemon-reload && systemctl restart docker
  • 所有节点需要设定/etc/sysctl.d/k8s.conf的系统参数。
$ cat <<EOF > /etc/sysctl.d/k8s.conf
net.ipv4.ip_forward = 1
net.bridge.bridge-nf-call-ip6tables = 1
net.bridge.bridge-nf-call-iptables = 1
EOF

$ sysctl -p /etc/sysctl.d/k8s.conf
  • 在master1需要安装CFSSL工具,这将会用来建立 TLS certificates。
$ export CFSSL_URL="https://pkg.cfssl.org/R1.2"
$ wget "${CFSSL_URL}/cfssl_linux-amd64" -O /usr/local/bin/cfssl
$ wget "${CFSSL_URL}/cfssljson_linux-amd64" -O /usr/local/bin/cfssljson
$ chmod +x /usr/local/bin/cfssl /usr/local/bin/cfssljson

Etcd

在开始安装 Kubernetes 之前,需要先将一些必要系统创建完成,其中 Etcd 就是 Kubernetes 最重要的一环,Kubernetes 会将大部分信息储存于 Etcd 上,来提供给其他节点索取,以确保整个集群运作与沟通正常。

创建集群 CA 与 Certificates

在这部分,将会需要产生 client 与 server 的各组件 certificates,并且替 Kubernetes admin user 产生 client 证书。

建立/etc/etcd/ssl文件夹,然后进入目录完成以下操作。

$ mkdir -p /etc/etcd/ssl && cd /etc/etcd/ssl
$ export PKI_URL="https://kairen.github.io/files/manual-v1.8/pki"

下载ca-config.json与etcd-ca-csr.json文件,并产生 CA 密钥:

$ wget "${PKI_URL}/ca-config.json" "${PKI_URL}/etcd-ca-csr.json"
$ cfssl gencert -initca etcd-ca-csr.json | cfssljson -bare etcd-ca
$ ls etcd-ca*.pem
etcd-ca-key.pem  etcd-ca.pem

下载etcd-csr.json文件,并产生 kube-apiserver certificate 证书:

$ wget "${PKI_URL}/etcd-csr.json"
$ cfssl gencert \
  -ca=etcd-ca.pem \
  -ca-key=etcd-ca-key.pem \
  -config=ca-config.json \
  -profile=kubernetes \
  etcd-csr.json | cfssljson -bare etcd

$ ls etcd*.pem
etcd-ca-key.pem  etcd-ca.pem  etcd-key.pem  etcd.pe

若节点 IP 不同,需要修改etcd-csr.json的hosts。

完成后删除不必要文件:

$ rm -rf *.json

确认/etc/etcd/ssl有以下文件:

$ ls /etc/etcd/ssl
etcd-ca.csr  etcd-ca-key.pem  etcd-ca.pem  etcd.csr  etcd-key.pem  etcd.pem

Etcd 安装与设定

首先在master1节点下载 Etcd,并解压缩放到 /opt 底下与安装:

$ export ETCD_URL="https://github.com/coreos/etcd/releases/download"
$ cd && wget -qO- --show-progress "${ETCD_URL}/v3.2.9/etcd-v3.2.9-linux-amd64.tar.gz" | tar -zx
$ mv etcd-v3.2.9-linux-amd64/etcd* /usr/local/bin/ && rm -rf etcd-v3.2.9-linux-amd64

完成后新建 Etcd Group 与 User,并建立 Etcd 配置文件目录:

$ groupadd etcd && useradd -c "Etcd user" -g etcd -s /sbin/nologin -r etcd

下载etcd相关文件,我们将来管理 Etcd:

$ export ETCD_CONF_URL="https://kairen.github.io/files/manual-v1.8/master"
$ wget "${ETCD_CONF_URL}/etcd.conf" -O /etc/etcd/etcd.conf
$ wget "${ETCD_CONF_URL}/etcd.service" -O /lib/systemd/system/etcd.service

若与该教程 IP 不同的话,请用自己 IP 取代172.16.35.12。

建立 var 存放信息,然后启动 Etcd 服务:

$ mkdir -p /var/lib/etcd && chown etcd:etcd -R /var/lib/etcd /etc/etcd
$ systemctl enable etcd.service && systemctl start etcd.service

通过简单指令验证:

$ export CA="/etc/etcd/ssl"
$ ETCDCTL_API=3 etcdctl \
    --cacert=${CA}/etcd-ca.pem \
    --cert=${CA}/etcd.pem \
    --key=${CA}/etcd-key.pem \
    --endpoints="https://172.16.35.12:2379" \
    endpoint health
# output
https://172.16.35.12:2379 is healthy: successfully committed proposal: took = 641.36µs

Kubernetes Master

Master 是 Kubernetes 的大总管,主要创建apiserver、Controller manager与Scheduler来组件管理所有 Node。本步骤将下载 Kubernetes 并安装至 master1上,然后产生相关 TLS Cert 与 CA 密钥,提供给集群组件认证使用。

下载 Kubernetes 组件

首先通过网络取得所有需要的执行文件:

# Download Kubernetes
$ export KUBE_URL="https://storage.googleapis.com/kubernetes-release/release/v1.8.2/bin/linux/amd64"
$ wget "${KUBE_URL}/kubelet" -O /usr/local/bin/kubelet
$ wget "${KUBE_URL}/kubectl" -O /usr/local/bin/kubectl
$ chmod +x /usr/local/bin/kubelet /usr/local/bin/kubectl

# Download CNI
$ mkdir -p /opt/cni/bin && cd /opt/cni/bin
$ export CNI_URL="https://github.com/containernetworking/plugins/releases/download"
$ wget -qO- --show-progress "${CNI_URL}/v0.6.0/cni-plugins-amd64-v0.6.0.tgz" | tar -zx

创建集群 CA 与 Certificates

在这部分,将会需要生成 client 与 server 的各组件 certificates,并且替 Kubernetes admin user 生成 client 证书。

创建pki文件夹,然后进入目录完成以下操作。

$ mkdir -p /etc/kubernetes/pki && cd /etc/kubernetes/pki
$ export PKI_URL="https://kairen.github.io/files/manual-v1.8/pki"
$ export KUBE_APISERVER="https://172.16.35.12:6443"

下载ca-config.json与ca-csr.json文件,并生成 CA 密钥:

$ wget "${PKI_URL}/ca-config.json" "${PKI_URL}/ca-csr.json"
$ cfssl gencert -initca ca-csr.json | cfssljson -bare ca
$ ls ca*.pem
ca-key.pem  ca.pem

API server certificate

下载apiserver-csr.json文件,并生成 kube-apiserver certificate 证书:

$ wget "${PKI_URL}/apiserver-csr.json"
$ cfssl gencert \
  -ca=ca.pem \
  -ca-key=ca-key.pem \
  -config=ca-config.json \
  -hostname=10.96.0.1,172.16.35.12,127.0.0.1,kubernetes.default \
  -profile=kubernetes \
  apiserver-csr.json | cfssljson -bare apiserver

$ ls apiserver*.pem
apiserver-key.pem  apiserver.pem

若节点 IP 不同,需要修改apiserver-csr.json的hosts。

Front proxy certificate

下载front-proxy-ca-csr.json文件,并生成 Front proxy CA 密钥,Front proxy 主要是用在 API aggregator 上:

$ wget "${PKI_URL}/front-proxy-ca-csr.json"
$ cfssl gencert \
  -initca front-proxy-ca-csr.json | cfssljson -bare front-proxy-ca

$ ls front-proxy-ca*.pem
front-proxy-ca-key.pem  front-proxy-ca.pem

下载front-proxy-client-csr.json文件,并生成 front-proxy-client 证书:

$ wget "${PKI_URL}/front-proxy-client-csr.json"
$ cfssl gencert \
  -ca=front-proxy-ca.pem \
  -ca-key=front-proxy-ca-key.pem \
  -config=ca-config.json \
  -profile=kubernetes \
  front-proxy-client-csr.json | cfssljson -bare front-proxy-client

$ ls front-proxy-client*.pem
front-proxy-client-key.pem  front-proxy-client.pem

Bootstrap Token

由于通过手动创建 CA 方式太过繁杂,只适合少量机器,因为每次签证时都需要绑定 Node IP,随机器增加会带来很多困扰,因此这边使用 TLS Bootstrapping 方式进行授权,由 apiserver 自动给符合条件的 Node 发送证书来授权加入集群。

主要做法是 kubelet 启动时,向 kube-apiserver 传送 TLS Bootstrapping 请求,而 kube-apiserver 验证 kubelet 请求的 token 是否与设定的一样,若一样就自动产生 kubelet 证书与密钥。具体作法可以参考 TLS bootstrapping

首先建立一个变量来产生BOOTSTRAP_TOKEN,并建立 bootstrap.conf 的 kubeconfig 文件:

$ export BOOTSTRAP_TOKEN=$(head -c 16 /dev/urandom | od -An -t x | tr -d ' ')
$ cat <<EOF > /etc/kubernetes/token.csv
${BOOTSTRAP_TOKEN},kubelet-bootstrap,10001,"system:kubelet-bootstrap"
EOF

# bootstrap set-cluster
$ kubectl config set-cluster kubernetes \
    --certificate-authority=ca.pem \
    --embed-certs=true \
    --server=${KUBE_APISERVER} \
    --kubeconfig=../bootstrap.conf

# bootstrap set-credentials
$ kubectl config set-credentials kubelet-bootstrap \
    --token=${BOOTSTRAP_TOKEN} \
    --kubeconfig=../bootstrap.conf

# bootstrap set-context
$ kubectl config set-context default \
    --cluster=kubernetes \
    --user=kubelet-bootstrap \
   --kubeconfig=../bootstrap.conf

# bootstrap set default context
$ kubectl config use-context default --kubeconfig=../bootstrap.conf

若想要用 CA 方式来认证,可以参考 Kubelet certificate

Admin certificate

下载admin-csr.json文件,并生成 admin certificate 证书:

$ wget "${PKI_URL}/admin-csr.json"
$ cfssl gencert \
  -ca=ca.pem \
  -ca-key=ca-key.pem \
  -config=ca-config.json \
  -profile=kubernetes \
  admin-csr.json | cfssljson -bare admin

$ ls admin*.pem
admin-key.pem  admin.pem

接着通过以下指令生成名称为 admin.conf 的 kubeconfig 文件:

# admin set-cluster
$ kubectl config set-cluster kubernetes \
    --certificate-authority=ca.pem \
    --embed-certs=true \
    --server=${KUBE_APISERVER} \
    --kubeconfig=../admin.conf

# admin set-credentials
$ kubectl config set-credentials kubernetes-admin \
    --client-certificate=admin.pem \
    --client-key=admin-key.pem \
    --embed-certs=true \
    --kubeconfig=../admin.conf

# admin set-context
$ kubectl config set-context kubernetes-admin@kubernetes \
    --cluster=kubernetes \
    --user=kubernetes-admin \
    --kubeconfig=../admin.conf

# admin set default context
$ kubectl config use-context kubernetes-admin@kubernetes \
    --kubeconfig=../admin.conf

Controller manager certificate

下载manager-csr.json文件,并生成 kube-controller-manager certificate 证书:

$ wget "${PKI_URL}/manager-csr.json"
$ cfssl gencert \
  -ca=ca.pem \
  -ca-key=ca-key.pem \
  -config=ca-config.json \
  -profile=kubernetes \
  manager-csr.json | cfssljson -bare controller-manager

$ ls controller-manager*.pem

若节点 IP 不同,需要修改manager-csr.json的hosts。

接着通过以下指令生成名称为controller-manager.conf的 kubeconfig 文件:

# controller-manager set-cluster
$ kubectl config set-cluster kubernetes \
    --certificate-authority=ca.pem \
    --embed-certs=true \
    --server=${KUBE_APISERVER} \
    --kubeconfig=../controller-manager.conf

# controller-manager set-credentials
$ kubectl config set-credentials system:kube-controller-manager \
    --client-certificate=controller-manager.pem \
    --client-key=controller-manager-key.pem \
    --embed-certs=true \
    --kubeconfig=../controller-manager.conf

# controller-manager set-context
$ kubectl config set-context system:kube-controller-manager@kubernetes \
    --cluster=kubernetes \
    --user=system:kube-controller-manager \
    --kubeconfig=../controller-manager.conf

# controller-manager set default context
$ kubectl config use-context system:kube-controller-manager@kubernetes \
    --kubeconfig=../controller-manager.conf

Scheduler certificate

下载scheduler-csr.json文件,并生成 kube-scheduler certificate 证书:

$ wget "${PKI_URL}/scheduler-csr.json"
$ cfssl gencert \
  -ca=ca.pem \
  -ca-key=ca-key.pem \
  -config=ca-config.json \
  -profile=kubernetes \
  scheduler-csr.json | cfssljson -bare scheduler

$ ls scheduler*.pem
scheduler-key.pem  scheduler.pem

若节点 IP 不同,需要修改scheduler-csr.json的hosts。

接着通过以下指令生成名称为 scheduler.conf 的 kubeconfig 文件:

# scheduler set-cluster
$ kubectl config set-cluster kubernetes \
    --certificate-authority=ca.pem \
    --embed-certs=true \
    --server=${KUBE_APISERVER} \
    --kubeconfig=../scheduler.conf

# scheduler set-credentials
$ kubectl config set-credentials system:kube-scheduler \
    --client-certificate=scheduler.pem \
    --client-key=scheduler-key.pem \
    --embed-certs=true \
    --kubeconfig=../scheduler.conf

# scheduler set-context
$ kubectl config set-context system:kube-scheduler@kubernetes \
    --cluster=kubernetes \
    --user=system:kube-scheduler \
    --kubeconfig=../scheduler.conf

# scheduler set default context
$ kubectl config use-context system:kube-scheduler@kubernetes \
    --kubeconfig=../scheduler.conf

Kubelet master certificate

下载kubelet-csr.json文件,并生成 master node certificate 证书:

$ wget "${PKI_URL}/kubelet-csr.json"
$ sed -i 's/$NODE/master1/g' kubelet-csr.json
$ cfssl gencert \
  -ca=ca.pem \
  -ca-key=ca-key.pem \
  -config=ca-config.json \
  -hostname=master1,172.16.35.12,172.16.35.12 \
  -profile=kubernetes \
  kubelet-csr.json | cfssljson -bare kubelet

$ ls kubelet*.pem
kubelet-key.pem  kubelet.pem

这边$NODE需要随节点名称不同而改变。

接着通过以下指令生成名称为 kubelet.conf 的 kubeconfig 文件:

# kubelet set-cluster
$ kubectl config set-cluster kubernetes \
    --certificate-authority=ca.pem \
    --embed-certs=true \
    --server=${KUBE_APISERVER} \
    --kubeconfig=../kubelet.conf

# kubelet set-credentials
$ kubectl config set-credentials system:node:master1 \
    --client-certificate=kubelet.pem \
    --client-key=kubelet-key.pem \
    --embed-certs=true \
    --kubeconfig=../kubelet.conf

# kubelet set-context
$ kubectl config set-context system:node:master1@kubernetes \
    --cluster=kubernetes \
    --user=system:node:master1 \
    --kubeconfig=../kubelet.conf

# kubelet set default context
$ kubectl config use-context system:node:master1@kubernetes \
    --kubeconfig=../kubelet.conf

Service account key

Service account 不是通过 CA 进行认证,因此不要通过 CA 来做 Service account key 的检查,这边建立一组 Private 与 Public 密钥提供给 Service account key 使用:

$ openssl genrsa -out sa.key 2048
$ openssl rsa -in sa.key -pubout -out sa.pub
$ ls sa.*
sa.key  sa.pub

完成后删除不必要文件:

$ rm -rf *.json *.csr

确认/etc/kubernetes与/etc/kubernetes/pki有以下文件:

$ ls /etc/kubernetes/
admin.conf  bootstrap.conf  controller-manager.conf  kubelet.conf  pki  scheduler.conf  token.csv

$ ls /etc/kubernetes/pki
admin-key.pem  apiserver-key.pem  ca-key.pem  controller-manager-key.pem  front-proxy-ca-key.pem  front-proxy-client-key.pem  kubelet-key.pem  sa.key  scheduler-key.pem
admin.pem      apiserver.pem      ca.pem      controller-manager.pem      front-proxy-ca.pem      front-proxy-client.pem      kubelet.pem      sa.pub  scheduler.pem

安装 Kubernetes 核心组件

首先下载 Kubernetes 核心组件 YAML 文件,这边我们不透过 Binary 方案来创建 Master 核心组件,而是利用 Kubernetes Static Pod 来创建,因此需下载所有核心组件的Static Pod文件到/etc/kubernetes/manifests目录:

$ export CORE_URL="https://kairen.github.io/files/manual-v1.8/master"
$ mkdir -p /etc/kubernetes/manifests && cd /etc/kubernetes/manifests
$ for FILE in apiserver manager scheduler; do
    wget "${CORE_URL}/${FILE}.yml.conf" -O ${FILE}.yml
  done

若IP与教程设定不同的话,请记得修改apiserver.yml、manager.yml、scheduler.yml。
apiserver 中的 NodeRestriction 请参考 Using Node Authorization

生成一个用来加密 Etcd 的 Key:

$ head -c 32 /dev/urandom | base64
SUpbL4juUYyvxj3/gonV5xVEx8j769/99TSAf8YT/sQ=

在/etc/kubernetes/目录下,创建encryption.yml的加密 YAML 文件:

$ cat <<EOF > /etc/kubernetes/encryption.yml
kind: EncryptionConfig
apiVersion: v1
resources:
  - resources:
      - secrets
    providers:
      - aescbc:
          keys:
            - name: key1
              secret: SUpbL4juUYyvxj3/gonV5xVEx8j769/99TSAf8YT/sQ=
      - identity: {}
EOF

Etcd 数据加密可参考这篇 Encrypting data at rest

在/etc/kubernetes/目录下,创建audit-policy.yml的进阶审核策略 YAML 文件:

$ cat <<EOF > /etc/kubernetes/audit-policy.yml
apiVersion: audit.k8s.io/v1beta1
kind: Policy
rules:
- level: Metadata
EOF

Audit Policy 请参考这篇 Auditing

下载kubelet.service相关文件来管理 kubelet:

$ export KUBELET_URL="https://kairen.github.io/files/manual-v1.8/master"
$ mkdir -p /etc/systemd/system/kubelet.service.d
$ wget "${KUBELET_URL}/kubelet.service" -O /lib/systemd/system/kubelet.service
$ wget "${KUBELET_URL}/10-kubelet.conf" -O /etc/systemd/system/kubelet.service.d/10-kubelet.conf

最后创建 var 存放信息,然后启动 kubelet 服务:

$ mkdir -p /var/lib/kubelet /var/log/kubernetes
$ systemctl enable kubelet.service && systemctl start kubelet.service

完成后会需要一段时间来下载镜像文件与启动组件,可以利用该指令来查看:

$ watch netstat -ntlp
tcp        0      0 127.0.0.1:10248         0.0.0.0:*               LISTEN      23012/kubelet
tcp        0      0 127.0.0.1:10251         0.0.0.0:*               LISTEN      22305/kube-schedule
tcp        0      0 127.0.0.1:10252         0.0.0.0:*               LISTEN      22529/kube-controll
tcp6       0      0 :::6443                 :::*                    LISTEN      22956/kube-apiserve

若看到以上信息表示服务正常启动,若发生问题可以用docker cli来查看。

完成后,复制 admin kubeconfig 文件,并通过简单指令验证:

$ cp /etc/kubernetes/admin.conf ~/.kube/config
$ kubectl get cs
NAME                 STATUS    MESSAGE              ERROR
etcd-0               Healthy   {"health": "true"}
scheduler            Healthy   ok
controller-manager   Healthy   ok

$ kubectl get node
NAME      STATUS     ROLES     AGE       VERSION
master1   NotReady   master    4m        v1.8.2

$ kubectl -n kube-system get po
NAME                              READY     STATUS    RESTARTS   AGE
kube-apiserver-master1            1/1       Running   0          4m
kube-controller-manager-master1   1/1       Running   0          4m
kube-scheduler-master1            1/1       Running   0          4m

确认服务能够执行 logs 等指令:

$ kubectl -n kube-system logs -f kube-scheduler-master1
Error from server (Forbidden): Forbidden (user=kube-apiserver, verb=get, resource=nodes, subresource=proxy) ( pods/log kube-apiserver-master1)

这边会发现出现 403 Forbidden 问题,这是因为 kube-apiserver user 并没有 nodes 的资源权限,属于正常。

由于上述权限问题,我们必需创建一个 apiserver-to-kubelet-rbac.yml 来定义权限,以供我们执行 logs、exec 等指令:

$ cd /etc/kubernetes/
$ export URL="https://kairen.github.io/files/manual-v1.8/master"
$ wget "${URL}/apiserver-to-kubelet-rbac.yml.conf" -O apiserver-to-kubelet-rbac.yml
$ kubectl apply -f apiserver-to-kubelet-rbac.yml

# 測試 logs
$ kubectl -n kube-system logs -f kube-scheduler-master1
...
I1031 03:22:42.527697       1 leaderelection.go:184] successfully acquired lease kube-system/kube-scheduler

Kubernetes Node

Node 是主要执行容器实例的节点,可视为工作节点。在这步骤我们会下载 Kubernetes binary 文件,并创建 node 的 certificate 来提供给节点注册认证用。Kubernetes 使用Node Authorizer来提供Authorization mode,这种授权模式会替 Kubelet 生成 API request。

在开始前,我们先在master1将需要的 ca 与 cert 复制到 Node 节点上:

$ for NODE in node1 node2; do
    ssh ${NODE} "mkdir -p /etc/kubernetes/pki/"
    ssh ${NODE} "mkdir -p /etc/etcd/ssl"
    # Etcd ca and cert
    for FILE in etcd-ca.pem etcd.pem etcd-key.pem; do
      scp /etc/etcd/ssl/${FILE} ${NODE}:/etc/etcd/ssl/${FILE}
    done
    # Kubernetes ca and cert
    for FILE in pki/ca.pem pki/ca-key.pem bootstrap.conf; do
      scp /etc/kubernetes/${FILE} ${NODE}:/etc/kubernetes/${FILE}
    done
  done

下载 Kubernetes 组件

首先通过网络取得所有需要的执行文件:

# Download Kubernetes
$ export KUBE_URL="https://storage.googleapis.com/kubernetes-release/release/v1.8.2/bin/linux/amd64"
$ wget "${KUBE_URL}/kubelet" -O /usr/local/bin/kubelet
$ chmod +x /usr/local/bin/kubelet

# Download CNI
$ mkdir -p /opt/cni/bin && cd /opt/cni/bin
$ export CNI_URL="https://github.com/containernetworking/plugins/releases/download"
$ wget -qO- --show-progress "${CNI_URL}/v0.6.0/cni-plugins-amd64-v0.6.0.tgz" | tar -zx

设定 Kubernetes node

接着下载 Kubernetes 相关文件,包含 drop-in file、systemd service 档案等:

$ export KUBELET_URL="https://kairen.github.io/files/manual-v1.8/node"
$ mkdir -p /etc/systemd/system/kubelet.service.d
$ wget "${KUBELET_URL}/kubelet.service" -O /lib/systemd/system/kubelet.service
$ wget "${KUBELET_URL}/10-kubelet.conf" -O /etc/systemd/system/kubelet.service.d/10-kubelet.conf

接着在所有node创建 var 存放信息,然后启动 kubelet 服务:

$ mkdir -p /var/lib/kubelet /var/log/kubernetes /etc/kubernetes/manifests
$ systemctl enable kubelet.service && systemctl start kubelet.service

P.S. 重复一样动作来完成其他节点。

授权 Kubernetes Node

当所有节点都完成后,在master节点,因为我们采用 TLS Bootstrapping,所需要创建一个 ClusterRoleBinding:

$ kubectl create clusterrolebinding kubelet-bootstrap \
    --clusterrole=system:node-bootstrapper \
    --user=kubelet-bootstrap

在master通过简单指令验证,会看到节点处于pending:

$ kubectl get csr
NAME                                                   AGE       REQUESTOR           CONDITION
node-csr-YWf97ZrLCTlr2hmXsNLfjVLwaLfZRsu52FRKOYjpcBE   2s        kubelet-bootstrap   Pending
node-csr-eq4q6ffOwT4yqYQNU6sT7mphPOQdFN6yulMVZeu6pkE   2s        kubelet-bootstrap   Pending

通过 kubectl 来允许节点加入集群:

$ kubectl get csr | awk '/Pending/ {print $1}' | xargs kubectl certificate approve
certificatesigningrequest "node-csr-YWf97ZrLCTlr2hmXsNLfjVLwaLfZRsu52FRKOYjpcBE" approved
certificatesigningrequest "node-csr-eq4q6ffOwT4yqYQNU6sT7mphPOQdFN6yulMVZeu6pkE" approved

$ kubectl get csr
NAME                                                   AGE       REQUESTOR           CONDITION
node-csr-YWf97ZrLCTlr2hmXsNLfjVLwaLfZRsu52FRKOYjpcBE   30s       kubelet-bootstrap   Approved,Issued
node-csr-eq4q6ffOwT4yqYQNU6sT7mphPOQdFN6yulMVZeu6pkE   30s       kubelet-bootstrap   Approved,Issued

$ kubectl get no
NAME      STATUS     ROLES     AGE       VERSION
master1   NotReady   master    15m       v1.8.2
node1     NotReady   <none>    8m        v1.8.2
node2     NotReady   <none>    6s        v1.8.2

Kubernetes Core Addons 部署

当完成上面所有步骤后,接着我们需要安装一些插件,而这些有部分是非常重要跟好用的,如Kube-dns与Kube-proxy等。

Kube-proxy addon

Kube-proxy 是实现 Service 的关键组件,kube-proxy 会在每台节点上执行,然后监听 API Server 的 Service 与 Endpoint 资源对象的改变,然后来依据变化执行 iptables 来实现网络的转发。这边我们会需要建议一个 DaemonSet 来执行,并且创建一些需要的 certificate。Kubernetes 1.8 kube-proxy 开启 ipvs

首先在master1下载kube-proxy-csr.json文件,并产生 kube-proxy certificate 证书:

$ export PKI_URL="https://kairen.github.io/files/manual-v1.8/pki"
$ cd /etc/kubernetes/pki
$ wget "${PKI_URL}/kube-proxy-csr.json" "${PKI_URL}/ca-config.json"
$ cfssl gencert \
  -ca=ca.pem \
  -ca-key=ca-key.pem \
  -config=ca-config.json \
  -profile=kubernetes \
  kube-proxy-csr.json | cfssljson -bare kube-proxy

$ ls kube-proxy*.pem
kube-proxy-key.pem  kube-proxy.pem

接着透过以下指令生成名称为 kube-proxy.conf 的 kubeconfig 文件:

# kube-proxy set-cluster
$ kubectl config set-cluster kubernetes \
    --certificate-authority=ca.pem \
    --embed-certs=true \
    --server="https://172.16.35.12:6443" \
    --kubeconfig=../kube-proxy.conf

# kube-proxy set-credentials
$ kubectl config set-credentials system:kube-proxy \
    --client-key=kube-proxy-key.pem \
    --client-certificate=kube-proxy.pem \
    --embed-certs=true \
    --kubeconfig=../kube-proxy.conf

# kube-proxy set-context
$ kubectl config set-context system:kube-proxy@kubernetes \
    --cluster=kubernetes \
    --user=system:kube-proxy \
    --kubeconfig=../kube-proxy.conf

# kube-proxy set default context
$ kubectl config use-context system:kube-proxy@kubernetes \
    --kubeconfig=../kube-proxy.conf

完成后删除不必要文件:

$ rm -rf *.json

确认/etc/kubernetes有以下文件:

$ ls /etc/kubernetes/
admin.conf        bootstrap.conf           encryption.yml  kube-proxy.conf  pki             token.csv
audit-policy.yml  controller-manager.conf  kubelet.conf    manifests        scheduler.conf

在master1将kube-proxy相关文件复制到 Node 节点上:

$ for NODE in node1 node2; do
    for FILE in pki/kube-proxy.pem pki/kube-proxy-key.pem kube-proxy.conf; do
      scp /etc/kubernetes/${FILE} ${NODE}:/etc/kubernetes/${FILE}
    done
  done

完成后,在master1通过 kubectl 来创建 kube-proxy daemon:

$ export ADDON_URL="https://kairen.github.io/files/manual-v1.8/addon"
$ mkdir -p /etc/kubernetes/addons && cd /etc/kubernetes/addons
$ wget "${ADDON_URL}/kube-proxy.yml.conf" -O kube-proxy.yml
$ kubectl apply -f kube-proxy.yml
$ kubectl -n kube-system get po -l k8s-app=kube-proxy
NAME               READY     STATUS    RESTARTS   AGE
kube-proxy-bpp7q   1/1       Running   0          47s
kube-proxy-cztvh   1/1       Running   0          47s
kube-proxy-q7mm4   1/1       Running   0          47s

Kube-dns addon

Kube DNS 是 Kubernetes 集群内部 Pod 之间互相沟通的重要 Addon,它允许 Pod 可以通过 Domain Name 方式来连接 Service,其主要由 Kube DNS 与 Sky DNS 组合而成,通过 Kube DNS 监听 Service 与 Endpoint 变化,来提供给 Sky DNS 信息,已更新解析地址。

安装只需要在master1通过 kubectl 来创建 kube-dns deployment 即可:

$ export ADDON_URL="https://kairen.github.io/files/manual-v1.8/addon"
$ wget "${ADDON_URL}/kube-dns.yml.conf" -O kube-dns.yml
$ kubectl apply -f kube-dns.yml
$ kubectl -n kube-system get po -l k8s-app=kube-dns
NAME                        READY     STATUS    RESTARTS   AGE
kube-dns-6cb549f55f-h4zr5   0/3       Pending   0          40s

Calico Network 安装与设定

Calico 是一款纯 Layer 3 的数据中心网络方案(不需要 Overlay 网络),Calico 好处是他已与各种云原生平台有良好的整合,而 Calico 在每一个节点利用 Linux Kernel 实现高效的 vRouter 来负责数据的转发,而当数据中心复杂度增加时,可以用 BGP route reflector 来达成。

首先在master1通过 kubectl 建立 Calico policy controller:

$ export CALICO_CONF_URL="https://kairen.github.io/files/manual-v1.8/network"
$ wget "${CALICO_CONF_URL}/calico-controller.yml.conf" -O calico-controller.yml
$ kubectl apply -f calico-controller.yml
$ kubectl -n kube-system get po -l k8s-app=calico-policy
NAME                                        READY     STATUS    RESTARTS   AGE
calico-policy-controller-5ff8b4549d-tctmm   0/1       Pending   0          5s

在master1下载 Calico CLI 工具:

$ wget https://github.com/projectcalico/calicoctl/releases/download/v1.6.1/calicoctl
$ chmod +x calicoctl && mv calicoctl /usr/local/bin/

然后在所有节点下载 Calico,并执行以下步骤:

$ export CALICO_URL="https://github.com/projectcalico/cni-plugin/releases/download/v1.11.0"
$ wget -N -P /opt/cni/bin ${CALICO_URL}/calico
$ wget -N -P /opt/cni/bin ${CALICO_URL}/calico-ipam
$ chmod +x /opt/cni/bin/calico /opt/cni/bin/calico-ipam

接着在所有节点下载 CNI plugins配置文件,以及 calico-node.service:

$ mkdir -p /etc/cni/net.d
$ export CALICO_CONF_URL="https://kairen.github.io/files/manual-v1.8/network"
$ wget "${CALICO_CONF_URL}/10-calico.conf" -O /etc/cni/net.d/10-calico.conf
$ wget "${CALICO_CONF_URL}/calico-node.service" -O /lib/systemd/system/calico-node.service

若部署的机器是使用虚拟机,如 Virtualbox 等的话,请修改calico-node.service文件,并在IP_AUTODETECTION_METHOD(包含 IP6)部分指定绑定的网卡,以避免默认绑定到 NAT 网络上。

之后在所有节点启动 Calico-node:

$ systemctl enable calico-node.service && systemctl start calico-node.service

在master1查看 Calico nodes:

$ cat <<EOF > ~/calico-rc
export ETCD_ENDPOINTS="https://172.16.35.12:2379"
export ETCD_CA_CERT_FILE="/etc/etcd/ssl/etcd-ca.pem"
export ETCD_CERT_FILE="/etc/etcd/ssl/etcd.pem"
export ETCD_KEY_FILE="/etc/etcd/ssl/etcd-key.pem"
EOF

$ . ~/calico-rc
$ calicoctl get node -o wide
NAME      ASN       IPV4              IPV6
master1   (64512)   172.16.35.12/24
node1     (64512)   172.16.35.10/24
node2     (64512)   172.16.35.11/24

查看 pending 的 pod 是否已执行:

$ kubectl -n kube-system get po
NAME                                        READY     STATUS    RESTARTS   AGE
calico-policy-controller-5ff8b4549d-tctmm   1/1       Running   0          4m
kube-apiserver-master1                      1/1       Running   0          20m
kube-controller-manager-master1             1/1       Running   0          20m
kube-dns-6cb549f55f-h4zr5                   3/3       Running   0          5m
kube-proxy-fnrkb                            1/1       Running   0          6m
kube-proxy-l72bq                            1/1       Running   0          6m
kube-proxy-m6rfw                            1/1       Running   0          6m
kube-scheduler-master1                      1/1       Running   0          20m

最后若想省事,可以直接用 Standard Hosted 方式安装。

Kubernetes Extra Addons 部署

本节说明如何部署一些官方常用的 Addons,如 Dashboard、Heapster 等。

Dashboard addon

Dashboard 是 Kubernetes 社区官方开发的仪表板,有了仪表板后管理者就能够透过 Web-based 方式来管理 Kubernetes 集群,除了提升管理方便,也让资源可视化,让人更直觉看见系统信息的呈现结果。

首先我们要建立kubernetes-dashboard-certs,来提供给 Dashboard TLS 使用:

$ mkdir -p /etc/kubernetes/addons/certs && cd /etc/kubernetes/addons
$ openssl genrsa -des3 -passout pass:x -out certs/dashboard.pass.key 2048
$ openssl rsa -passin pass:x -in certs/dashboard.pass.key -out certs/dashboard.key
$ openssl req -new -key certs/dashboard.key -out certs/dashboard.csr -subj '/CN=kube-dashboard'
$ openssl x509 -req -sha256 -days 365 -in certs/dashboard.csr -signkey certs/dashboard.key -out certs/dashboard.crt
$ rm certs/dashboard.pass.key
$ kubectl create secret generic kubernetes-dashboard-certs\
    --from-file=certs -n kube-system

接着在master1通过 kubectl 来建立 kubernetes dashboard 即可:

$ export ADDON_URL="https://kairen.github.io/files/manual-v1.8/addon"
$ wget ${ADDON_URL}/kube-dashboard.yml.conf -O kube-dashboard.yml
$ kubectl apply -f kube-dashboard.yml
$ kubectl -n kube-system get po,svc -l k8s-app=kubernetes-dashboard
NAME                                      READY     STATUS    RESTARTS   AGE
po/kubernetes-dashboard-747c4f7cf-md5m8   1/1       Running   0          56s

NAME                       TYPE        CLUSTER-IP      EXTERNAL-IP   PORT(S)   AGE
svc/kubernetes-dashboard   ClusterIP   10.98.120.209   <none>        443/TCP   56s

P.S. 这边会额外创建一个名称为anonymous-open-door Cluster Role Binding,这仅作为方便测试时使用,在一般情况下不要开启,不然就会直接被存取所有 API。

完成后,就可以透过浏览器访问 Dashboard,https://172.16.35.12:6443/api/v1/namespaces/kube-system/services/https:kubernetes-dashboard:/proxy/

Heapster addon

Heapster 是 Kubernetes 社区维护的容器集群监控分析工具。Heapster 会从 Kubernetes apiserver 获得所有 Node 信息,然后再通过这些 Node 来获得 kubelet 上的数据,最后再将所有收集到数据送到 Heapster 的后台储存 InfluxDB,最后利用 Grafana 来抓取 InfluxDB 的数据源来进行可视化。

在master1通过 kubectl 来创建 kubernetes monitor 即可:

$ export ADDON_URL="https://kairen.github.io/files/manual-v1.8/addon"
$ wget ${ADDON_URL}/kube-monitor.yml.conf -O kube-monitor.yml
$ kubectl apply -f kube-monitor.yml
$ kubectl -n kube-system get po,svc
NAME                                           READY     STATUS    RESTARTS   AGE
...
po/heapster-74fb5c8cdc-62xzc                   4/4       Running   0          7m
po/influxdb-grafana-55bd7df44-nw4nc            2/2       Running   0          7m

NAME                       TYPE        CLUSTER-IP       EXTERNAL-IP   PORT(S)             AGE
...
svc/heapster               ClusterIP   10.100.242.225   <none>        80/TCP              7m
svc/monitoring-grafana     ClusterIP   10.101.106.180   <none>        80/TCP              7m
svc/monitoring-influxdb    ClusterIP   10.109.245.142   <none>        8083/TCP,8086/TCP   7m
···

完成后,就可以透过浏览器存取 Grafana Dashboard,https://172.16.35.12:6443/api/v1/proxy/namespaces/kube-system/services/monitoring-grafana

简单部署 Nginx 服务

Kubernetes 可以选择使用指令直接创建应用程序与服务,或者撰写 YAML 与 JSON 档案来描述部署应用程序的配置,以下将创建一个简单的 Nginx 服务:

$ kubectl run nginx --image=nginx --port=80
$ kubectl expose deploy nginx --port=80 --type=LoadBalancer --external-ip=172.16.35.12
$ kubectl get svc,po
NAME             TYPE           CLUSTER-IP      EXTERNAL-IP    PORT(S)        AGE
svc/kubernetes   ClusterIP      10.96.0.1       <none>         443/TCP        1h
svc/nginx        LoadBalancer   10.97.121.243   172.16.35.12   80:30344/TCP   22s

NAME                        READY     STATUS    RESTARTS   AGE
po/nginx-7cbc4b4d9c-7796l   1/1       Running   0          28s       192.160.57.181   ,172.16.35.12   80:32054/TCP   21s

这边type可以选择 NodePort 与 LoadBalancer,在本地裸机部署,两者差异在于NodePort只映射 Host port 到 Container port,而LoadBalancer则继承NodePort额外多出映射 Host target port 到 Container port。

确认没问题后即可在浏览器存取 http://172.16.35.12

扩展服务数量

若集群node节点增加了,而想让 Nginx 服务提供可靠性的话,可以通过以下方式来扩展服务的副本:

$ kubectl scale deploy nginx --replicas=2

$ kubectl get pods -o wide
NAME                    READY     STATUS    RESTARTS   AGE       IP             NODE
nginx-158599303-0h9lr   1/1       Running   0          25s       10.244.100.5   node2
nginx-158599303-k7cbt   1/1       Running   0          1m        10.244.24.3    node1
K8S中文社区微信公众号

评论 53

登录后评论

立即登录  

  1. #41

    你好,我这里连接不上。是需要翻墙吗

    _黑夜6年前 (2017-11-06)
  2. #40

    貌似网络不是很好

    其实很简单6年前 (2017-11-07)
  3. #39

    我按照以上步骤一步一步,一直到使用watch netstat -ntlp命令查看服务启动情况,但是10251、10252、6443端口的服务都没启动。。。我也是懵逼了

    其实很简单6年前 (2017-11-07)
    • 你好,你这问题如何解决的,

      不二心6年前 (2017-11-08)
    • 我也是。。。

      欠你一个拥抱6年前 (2017-11-08)
    • 我的也是和你一样情况,没6443和10251,10252端口,咋解决的?

      疯人愿6年前 (2018-02-06)
      • 你有搞到这三个镜像吗?

        逝丶我想冭誃♂6年前 (2018-03-27)
  4. #38

    久等一会就好了

    舍得不舍6年前 (2017-11-08)
    • 这篇文档有问题,很多初始环境的设置没有写进去,作者还是修改一下吧。

      离心咒6年前 (2017-11-20)
  5. #37

    启动kubelet的时候报错,说没有cni network以及no client provided,具体log:
    Nov 09 21:01:13 master1 kubelet[5570]: W1109 21:01:13.977813 5570 cni.go:196] Unable to update cni config: No networks found in /etc/cni/net.d
    Nov 09 21:01:13 master1 kubelet[5570]: I1109 21:01:13.983192 5570 feature_gate.go:156] feature gates: map[]
    Nov 09 21:01:13 master1 kubelet[5570]: W1109 21:01:13.983297 5570 server.go:289] –cloud-provider=auto-detect is deprecated. The desired cloud provider should be set explicitly
    Nov 09 21:01:13 master1 kubelet[5570]: W1109 21:01:13.985029 5570 server.go:381] invalid kubeconfig: invalid configuration: no server found for cluster kubernetes
    Nov 09 21:01:13 master1 kubelet[5570]: error: failed to run Kubelet: no client provided, cannot use webhook authorization
    Nov 09 21:01:13 master1 systemd[1]: kubelet.service: main process exited, code=exited, status=1/FAILURE
    Nov 09 21:01:13 master1 systemd[1]: Unit kubelet.service entered failed state.
    Nov 09 21:01:13 master1 systemd[1]: kubelet.service failed.

    求救求救,我搞了好几次了,老是搭不起来

    无双猪6年前 (2017-11-09)
  6. #36

    请问启动kubelet的时候报错,说no cni nework 以及no client provided怎么办,你最后搭起来了吗?我搭了好几次了每次都是各种问题想死了

    无双猪6年前 (2017-11-09)
  7. #35

    请问,我把三个文件下载到本地后,需要怎样操作,把google的镜像更改到本地 kube-apiserver-amd64.v1.8.2.tar kube-controller-manager-amd64.v1.8.2.tar kube-scheduler-amd64.v1.8.2.tar

    asdsal6年前 (2017-11-13)
    • 请问:你这三个文件是从哪下载的?

      _黑夜6年前 (2017-11-15)
  8. #34

    需要搭建本地仓库,然后把制作好的镜像push到本地仓库,更改Yaml文件,就可以了

    asdsal6年前 (2017-11-13)
  9. #33

    我也是端口无法启动,这个需要翻墙吗

    三宝玉如意6年前 (2017-11-14)
  10. #32

    没装成功。。。我只想知道不重装系统,怎么便捷的恢复到安装之前的状态[/大哭]

    似水柔情6年前 (2017-11-17)
  11. #31

    不建议大家按这篇文去做。 一步一步按着做,都是提示6443没有响应。而且那个master的IP不同时,总是出错。
    这文只能参考而以。做了两次,一点一点的查,都是报一样的错。

    曲终人散成幻6年前 (2017-11-18)
  12. #30

    目前我根据此文档安装k8s已经到了Kubernetes Extra Addons 部署,有兴趣一起交流填坑的朋友家下我的QQ群吧558468868

    普希雪兰特6年前 (2017-11-21)
  13. #29

    看得云里雾里一脸懵逼,这种教程好毁人

    好网名6年前 (2017-11-23)
  14. #28

    我按照以上步骤一步一步,一直到使用watch netstat -ntlp命令查看服务启动情况,但是10251、10252、6443端口的服务都没启动。。。我也是懵逼了

    时光流离6年前 (2017-12-01)
  15. #27

    我也卡在这步骤,怎么破?

    时光流离6年前 (2017-12-01)
  16. #26

    dd

    小步调6年前 (2017-12-07)
  17. #25

    本文亲测可用

    小步调6年前 (2017-12-07)
  18. #24

    我尝试到使用watch netstat -ntlp命令查看服务启动情况,但是10251、10252、6443端口的服务都没启动,麻烦作者把初始化的参数标一下下,那个位置需要改ip的!

    浮_沉__6年前 (2017-12-19)
  19. #23

    计算节点起 kubelet报错,按教程走到这里 授权 Kubernetes Node
    Dec 23 05:15:04 slave1 systemd[1]: kubelet.service holdoff time over, scheduling restart.
    Dec 23 05:15:04 slave1 systemd[1]: Started kubelet: The Kubernetes Node Agent.
    Dec 23 05:15:04 slave1 systemd[1]: Starting kubelet: The Kubernetes Node Agent…
    Dec 23 05:15:04 slave1 kubelet[1861]: I1223 05:15:04.620173 1861 feature_gate.go:156] feature gates: map[]
    Dec 23 05:15:04 slave1 kubelet[1861]: I1223 05:15:04.620227 1861 controller.go:114] kubelet config controller: starting controller
    Dec 23 05:15:04 slave1 kubelet[1861]: I1223 05:15:04.620231 1861 controller.go:118] kubelet config controller: validating combination of defaults and flags
    Dec 23 05:15:04 slave1 kubelet[1861]: I1223 05:15:04.625415 1861 client.go:75] Connecting to docker on unix:///var/run/docker.sock
    Dec 23 05:15:04 slave1 kubelet[1861]: I1223 05:15:04.625483 1861 client.go:95] Start docker client with request timeout=2m0s
    Dec 23 05:15:04 slave1 kubelet[1861]: W1223 05:15:04.626720 1861 cni.go:196] Unable to update cni config: No networks found in /etc/cni/net.d
    Dec 23 05:15:04 slave1 kubelet[1861]: I1223 05:15:04.630522 1861 feature_gate.go:156] feature gates: map[]
    Dec 23 05:15:04 slave1 kubelet[1861]: W1223 05:15:04.630682 1861 server.go:289] –cloud-provider=auto-detect is deprecated. The desired cloud provider should be set explicitly
    Dec 23 05:15:04 slave1 kubelet[1861]: error: failed to run Kubelet: cannot create certificate signing request: Unauthorized
    Dec 23 05:15:04 slave1 systemd[1]: kubelet.service: main process exited, code=exited, status=1/FAILURE
    Dec 23 05:15:04 slave1 systemd[1]: Unit kubelet.service entered failed state.
    Dec 23 05:15:04 slave1 systemd[1]: kubelet.service failed.

    不倒翁6年前 (2017-12-23)
  20. #22

    支持下。

    Locke6年前 (2017-12-26)
  21. #21

    按照此教程,完成k8s集群部署,教程没毛病,有问题的是国内网络,下不到谷歌的镜像,你的容器起不来,端口怎么会有呢?

    梦回中6年前 (2018-01-16)
    • 翻墙 网络会不会好些

      qq1745404096年前 (2018-03-16)
  22. #20

    能详细说说么? 我也碰到这个问题,DNS死活起不来,一直i/o timeout

    原上草6年前 (2018-02-11)
  23. #19

    ffff

    扯不断6年前 (2018-02-22)
  24. #18

    kubelet 启动加上 –hostname-override=master1

    6年前 (2018-02-27)
  25. #17

    能不能解释一下,master上按照操作均能kubelet启动成功了,配置node节点的时候,启动kubelet服务报错,kubelet: error: failed to run Kubelet: cannot create certificate signing request: Unauthorized 是什么原因啊。为什么是:Unauthorized ,还有我也没有看到教程里面有提到创建 /etc/cni/cni.d/cni.conf 这个是网络插件么,master启动时要去找,但是没有,结果master仍然能够正常启动。有知道的朋友解答一下么?

    滔滔6年前 (2018-03-03)
    • 我也遇到了同样的问题,请问你的解决了吗

      aTaylorswift6年前 (2018-03-14)
  26. #16

    你好,我也遇到同样的问题,请问你搞定了吗?

    冒泡哥6年前 (2018-03-08)
  27. #15

    [root@node162 manifests]# kubectl get po //查看pods的时候出现如下错误:
    The connection to the server 192.168.161.162:6443 was refused – did you specify the right host or port?
    [root@node162 manifests]# tailf /var/log/messages //查看系统日志的时候不停的滚动如下报错信息,这是怎么回事?大牛来来来,帮小弟一把!
    Mar 17 14:10:40 node162 kubelet: W0317 14:10:40.861680 5056 helpers.go:847] eviction manager: no observation found for eviction signal allocatableNodeFs.available
    Mar 17 14:10:50 node162 kubelet: I0317 14:10:50.863147 5056 kubelet_node_status.go:280] Setting node annotation to enable volume controller attach/detach
    Mar 17 14:10:50 node162 kubelet: W0317 14:10:50.898163 5056 helpers.go:847] eviction manager: no observation found for eviction signal allocatableNodeFs.available
    Mar 17 14:11:00 node162 kubelet: I0317 14:11:00.901128 5056 kubelet_node_status.go:280] Setting node annotation to enable volume controller attach/detach
    Mar 17 14:11:00 node162 kubelet: W0317 14:11:00.948701 5056 helpers.go:847] eviction manager: no observation found for eviction signal allocatableNodeFs.available
    Mar 17 14:11:10 node162 kubelet: I0317 14:11:10.949828 5056 kubelet_node_status.go:280] Setting node annotation to enable volume controller attach/detach
    Mar 17 14:11:10 node162 kubelet: W0317 14:11:10.981079 5056 helpers.go:847] eviction manager: no observation found for eviction signal allocatableNodeFs.available

    Bin_Go6年前 (2018-03-17)
  28. #14

    Controller manager certificate说要修改manager-csr.json里面的hosts文件,打开文件,根本就没有hosts这个关键字?

    逝丶我想冭誃♂6年前 (2018-03-27)
  29. #13

    谁有镜像文件啊?给发给我一下一下,google上不了啊

    逝丶我想冭誃♂6年前 (2018-03-27)
  30. #12

    我的10251,10252,10248都启动了,但是6443怎么也启动不了。docker翻墙正常,但日志一直在报这个。 dial tcp 192.168.16.170:6443: getsockopt: connection refused。请问要怎么处理,从etcd开始重新做过几次了

    willis6年前 (2018-03-30)
  31. #11

    镜像都下载好了,docker也启动这些镜像了,但是为啥 6443还是提示 connection refused

    willis6年前 (2018-03-30)
  32. #10

    请问这个错误是神吗?

    大漠雄鹰6年前 (2018-04-04)
  33. #9

    asdf

    大漠雄鹰6年前 (2018-04-04)
  34. #8

    不靠谱不靠谱,

    同君醉6年前 (2018-06-05)
  35. #7

    node节点无法启动kubelet:
    8月 07 14:10:57 node1 kubelet[6425]: error: failed to run Kubelet: cannot create certificate signing request: Unauthorized
    原因应该是Bootstrap Token 这一步不对
    ~~~
    $ export BOOTSTRAP_TOKEN=$(head -c 16 /dev/urandom | od -An -t x | tr -d ‘ ‘)
    $ cat < /etc/kubernetes/token.csv
    ${BOOTSTRAP_TOKEN},kubelet-bootstrap,10001,”system:kubelet-bootstrap”
    EOF
    ~~~
    看一下cat /etc/kubernetes/token.csv是否正确,我的是这个问题${BOOTSTRAP_TOKEN}不正确

    神力无敌6年前 (2018-08-07)
  36. #6

    同没有kube-apiserver,kube-scheduler,kube-controlle,kube-proxy服务
    Active Internet connections (only servers)
    Proto Recv-Q Send-Q Local Address Foreign Address State PID/Program name
    tcp 0 0 127.0.0.1:10248 0.0.0.0:* LISTEN 17538/kubelet
    tcp 0 0 0.0.0.0:22 0.0.0.0:* LISTEN 838/sshd
    tcp6 0 0 :::4194 :::* LISTEN 17538/kubelet
    tcp6 0 0 :::10250 :::* LISTEN 17538/kubelet
    tcp6 0 0 :::2379 :::* LISTEN 16343/etcd
    tcp6 0 0 :::2380 :::* LISTEN 16343/etcd
    tcp6 0 0 :::10255 :::* LISTEN 17538/kubelet
    tcp6 0 0 :::22 :::* LISTEN 838/sshd

    kinamu6年前 (2018-09-26)
  37. #5

    为什么这种kubernetes这种工具安装步骤要设置得如此复杂
    在我的理想中
    安装不过是 sudo ***(linux发行版包管理器) install kubernetes 或者下载二进制包然后使用即可
    启动不过是 kubernetes start -d
    后边提供 WebUI 进行各项功能操作,不明白的点击WebUI功能旁边的?就能得到基本了解
    哎,kubemini国内安装我简直都要疯了,这个不通,那个握手超时, 上了代理都整不通,至少能让我装上先体验一个基本的web应用发布流程啊,但是我连门都还进不去

    不良帅4年前 (2019-11-08)
  38. #4

    https://kairen.github.io/files/manual-v1.8/pki/,没有三个文件$ wget “${PKI_URL}/ca-config.json” “${PKI_URL}/etcd-ca-csr.json”,wget “${PKI_URL}/etcd-csr.json”

    chen4年前 (2020-03-29)
  39. #3

    一直报*.json不存在,你们是怎么安装成功的

    isset4年前 (2020-04-07)
    • json文件网上多的是,自己找下就有了

      WORIO3年前 (2021-01-19)
  40. #2

    相关的配置文件,最好不要使用未知的外链吧。外链失效后整个文档的实用性大打折扣😔

    yo4年前 (2020-06-12)
  41. #1

    相关配置文件失效了,etcd的json文件404找不到了。。。。。。。。。。搞了半天都不知道怎么办了

    oh my god4年前 (2020-09-10)