服务器之家:专注于服务器技术及软件下载分享
分类导航

云服务器|WEB服务器|FTP服务器|邮件服务器|虚拟主机|服务器安全|DNS服务器|服务器知识|Nginx|IIS|Tomcat|

服务器之家 - 服务器技术 - 服务器知识 - 这一篇 K8S(Kubernetes) 集群部署 我觉得还可以

这一篇 K8S(Kubernetes) 集群部署 我觉得还可以

2021-11-08 23:16牧小农 服务器知识

今天我们这里采用的是第一种 使用Kubeadmin通过离线镜像安装K8S,本文也会使用 Kubeadmin 来为大家展示K8S的集群部署和安装,环境和安装包我都为大家准备好了,大家感兴趣的可以进行下载安装。

这一篇 K8S(Kubernetes) 集群部署 我觉得还可以

国内安装K8S的四种途径

Kubernetes 的安装其实并不复杂,因为Kubernetes 属于Google 的产品,都是从Google的官方上进行下载,但是因为网络问题,在国内是没办法连接它的中央仓库进行下载安装包的,只能通过其他的途径进行安装,在国内有四种安装方式

使用 Kubeadmin 通过离线镜像安装: Kubeadmin 是K8S提供的管理控制台,通过这里的命令可以非常方便的对我们集群进行快速发布和部署

使用阿里云公有云平台安装K8S: 这是也是非常好用的,不用做任何设置,拿来就用,但是有一个缺点——要钱

通过yum官方仓库安装: 这个是最简单的,但是这个安装K8S的包是非常古老的版本,听说是和谷歌最新的差了十个版本

通过二进制包的形式进行安装: 采用第三方的提供的二进制包的形式来安装K8S,比如 Kubeasz,它是github的一个开源项目,因为它是由三方来提供的,如果在没有仔细验证的情况下,是非常容易出错的,后台存在什么样的缺陷,你是不知道的。

今天我们这里采用的是第一种 使用Kubeadmin通过离线镜像安装K8S,本文也会使用 Kubeadmin 来为大家展示K8S的集群部署和安装,环境和安装包我都为大家准备好了,大家感兴趣的可以进行下载安装。

环境准备

结构图:

这一篇 K8S(Kubernetes) 集群部署 我觉得还可以

1.1 物理机系统

在这里需要说明一下,小农是本地虚拟机安装测试的,如果不知道怎么安装,看下面的我安装虚拟机的教程:虚拟机安装教程:安装linux虚拟机(CentOS) 详细教程

安装K9S需要处理器的数量为2,否则后面初始化的时候会失败

这一篇 K8S(Kubernetes) 集群部署 我觉得还可以

1.2物理机操作系统采用Centos7.8 64位

  1. [root@localhost~]#uname-a
  2. Linuxlocalhost.localdomain3.10.0-1127.el7.x86_64#1SMPTueMar3123:36:51UTC2020x86_64x86_64x86_64GNU/Linux
  3. [root@localhost~]#cat/etc/redhat-release
  4. CentOSLinuxrelease7.8.2003(Core)

1.3 集群信息

这一篇 K8S(Kubernetes) 集群部署 我觉得还可以

环境准备命令

2.1 设置时区

三台机器都需要执行:

  1. timedatectlset-timezoneAsia/Shanghai

2.2 设置主机名

129执行: hostnamectlset-hostname master

130执行: hostnamectlset-hostname node1

131执行: hostnamectlset-hostname node2

2.3 添加hosts网络主机配置

三台主机都需要添加这个配置

  1. vi/etc/hosts
  2. 192.168.137.129master
  3. 192.168.137.130node1
  4. 192.168.137.131node2

添加完成之后我们在master上验证一下 ping node1

  1. [root@localhost~]#pingnode1
  2. PINGnode1(192.168.137.130)56(84)bytesofdata.
  3. 64bytesfromnode1(192.168.137.130):icmp_seq=1ttl=64time=0.605ms
  4. 64bytesfromnode1(192.168.137.130):icmp_seq=2ttl=64time=0.382ms
  5. 64bytesfromnode1(192.168.137.130):icmp_seq=3ttl=64time=0.321ms

2.4 关闭防火墙

生产环境可以跳过这一步,在生产环境不要执行这个,这里只是为了方便我们学习的时候使用

SELINUX是安全增强型的LINUX,是LINUX内置安全增强模块,可以增强LINUX的安全性,但是这个设置起来太麻烦了,所以我们在学习过程中一般都会关闭掉这个

关闭命令:

  1. sed-i's/SELINUX=enforcing/SELINUX=disabled/g'/etc/selinux/config

设置为临时生效:

  1. setenforce0

禁用防火墙:

  1. systemctldisablefirewalld

停止防火墙:

  1. systemctlstopfirewalld

安装Kubeadm部署工具

首先我们要弄清楚一个概念,Kubeadm 并不是 K8S 本身,Kubeadm只是一个快速部署工具,通过安装这个工具可以帮助我们简化K8S部署的过程。

创建文件目录:mkdir/usr/local/k8s

切换目录地址:cd/usr/local/k8s

然后我们将安装包(kubernetes-1.14 安装包在开头有下载连接)放到 k8s 这个目录下

  1. [root@masterk8s]#ll
  2. drwxr-xr-x2rootroot335Nov611:17kubernetes-1.14

切换到kubernetes的目录

  1. [root@masterk8s]#cdkubernetes-1.14/
  2. [root@masterkubernetes-1.14]#ll
  3. total986908
  4. -rw-r--r--1rootroot357Jul314:15admin-role.yaml
  5. -rw-r--r--1rootroot67Jul314:15daemon.json
  6. -rw-r--r--1rootroot67850818Jul314:15docker-ce-18.09.tar.gz
  7. -rw-r--r--1rootroot177698304Jul314:15flannel-dashboard.tar.gz
  8. -rw-r--r--1rootroot927Jul314:15init.sh
  9. -rw-r--r--1rootroot706070528Jul314:15k8s-114-images.tar.gz
  10. -rw-r--r--1rootroot79Jul314:15k8s.conf
  11. -rw-r--r--1rootroot58913350Jul314:15kube114-rpm.tar.gz
  12. -rw-r--r--1rootroot12306Jul314:15kube-flannel.yml
  13. -rw-r--r--1rootroot281Jul314:15kubernetes-dashboard-admin.rbac.yaml
  14. -rw-r--r--1rootroot4809Jul314:15kubernetes-dashboard.yaml
  15. -rw-r--r--1rootroot953Jul314:15worker-node.sh
  16. [root@masterkubernetes-1.14]#

这里面就包含了我们安装K8S的所有内容,其中

kube114-rpm.tar.gz: 是我们Kubeadm 集群管理工具的安装压缩包

docker-ce-18.09.tar.gz: 是我们docker的安装压缩包,可以进行本地化安装

k8s-114-images.tar.gz: 是K8S镜像本身,我们K8S的安装是 通过 Kubeadm 集群管理工具对K8S的镜像进行自动化部署

flannel-dashboard.tar.gz: 用来监控集群状态

安装Docker

我们需要在三台机器上都安装docker,文中用 master 节点来做演示

首先对 docker-ce-18.09.tar.gz进行解压缩

  1. [root@masterkubernetes-1.14]#tar-zxvfdocker-ce-18.09.tar.gz
  2. [root@masterkubernetes-1.14]#cddocker

在安装之前我们首先需要保证本来的yum源和docker依赖是最新的,所以我们需要先执行以下命令,这一步命令执行都是在 docker这个目录下执行的

1、安装GCC

  1. yum-yinstallgcc
  2. yum-yinstallgcc-c++

2、卸载老版本的docker和依赖

  1. yumremovedockerdocker-clientdocker-client-latestdocker-commondocker-latestdocker-latest-logrotatedocker-logrotatedocker-selinuxdocker-engine-selinuxdocker-engine

3、安装 yum-utils组件:

  1. yuminstall-yyum-utilsdevice-mapper-persistent-datalvm2

4、添加yum 源 PS

  1. docker官网地址:sudoyum-config-manager--add-repohttps://download.docker.com/linux/centos/docker-ce.repo
  2. 阿里云地址:sudoyum-config-manager--add-repohttp://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo

5、更新yum索引:sudo yum makecache fast

6、安装docker-ce:sudo yum install docker-ce

7、卸载老版本的docker和依赖 这一步不是重复,是为了卸载上一步的 docker-ce来安装我们k8s包里面的 docker-ce

  1. yumremovedockerdocker-clientdocker-client-latestdocker-commondocker-latestdocker-latest-logrotatedocker-logrotatedocker-selinuxdocker-engine-selinuxdocker-engine

8、执行我们安装包里面的文件:yum localinstall-y*.rpm

这一篇 K8S(Kubernetes) 集群部署 我觉得还可以

到这里就代表我们的docker安装完成了

启动docker:systemctl start docker

设置docker为自动启动:systemctl enable docker

保证cgroups在同一个

执行命令:

  1. [root@masterdocker]#dockerinfo|grepcgroup
  2. CgroupDriver:cgroupfs
  • cgroups是 control groups的简称,它为Linux内核提供了一种任务聚集和划分的机制,通过一组参数集合将一些任务组织成一个或多个子系统。
  • cgroups是实现IaaS虚拟化(kvm、lxc等),PaaS容器沙箱(Docker等)的资源管理控制部分的底层基础。
  • 子系统是根据 cgroup对任务的划分功能将任务按照一种指定的属性划分成的一个组,主要用来实现资源的控制。
  • 在 cgroup中,划分成的任务组以层次结构的形式组织,多个子系统形成一个数据结构中类似多根树的结构。 cgroup包含了多个孤立的子系统,每一个子系统代表单一的资源

我们只需要确认输入上面的命令后出现的是:CgroupDriver:cgroupfs

当我们输入命令发现不是CgroupDriver:cgroupfs这个结果,那我们需要执行下面的命令:

对 daemon.json 进行修改:

  1. cat</etc/docker/daemon.json
  2. {
  3. "exec-opts":["native.cgroupdriver=cgroupfs"]
  4. }
  5. EOF
  6. systemctldaemon-reload&&systemctlrestartdocker

安装kubeadm

kubeadm是K8S官方提供的集群部署工具,通过这个工具可以快速帮助我们简化的完成K8S的管理,以及各集群节点下的容器创建

切换目录:cd/usr/local/k8s/kubernetes-1.14

解压 kube114安装包:tar-zxvf kube114-rpm.tar.gz

切换目录:cd kube114-rpm

这一篇 K8S(Kubernetes) 集群部署 我觉得还可以

安装:yum localinstall-y*.rpm

这一篇 K8S(Kubernetes) 集群部署 我觉得还可以

关闭交换区

  • 在linux系统中,交换区类似于我们的 windows的虚拟内存,作为 windows的虚拟内存,其实就是用物理磁盘模拟内存.
  • 比如说我们系统内存比较小,那么在进行数据处理的时候,内存不够了,我们就会先把这些数据寄存在硬盘上,用硬盘空间模拟内存来使用,虽然硬盘提取数据的速度比较慢,但是总是比内存不够要好,在linux系统中,交换区就是我们所说的虚拟内存了.
  • 在这里,虚拟内存可能会对系统部署产生不必要的影响,在K8S的环境下,使用的服务器一般都是内存比较充足的,所以我们一般不推荐使用系统交换区,这样会让我们系统的性能降低,在这里选择关闭交换区

关闭交换区:swapoff-a

修改配置文件,永久关闭交换区:vi/etc/fstab swap一行注释

这一篇 K8S(Kubernetes) 集群部署 我觉得还可以

配置网桥

所谓配置网桥其实就是我们对 k8s.conf这个文件进行修改iptables 是在linux中的一个网络工具,用来对我们包按照规则进行过滤,在 k8s.conf中增加下面两行配置当在K8S容器间进行网络通信的时候,当网桥进行数据传输的时候,也要遵循iptables的规则,进行相应的处理,这样可以提高我们系统在网络传输间的安全性

开启方式:

  1. cat</etc/sysctl.d/k8s.conf
  2. net.bridge.bridge-nf-call-ip6tables=1
  3. net.bridge.bridge-nf-call-iptables=1
  4. EOF
  5. sysctl--system

这一篇 K8S(Kubernetes) 集群部署 我觉得还可以

当我们执行完成以后,要确保红框中的值为1

通过镜像安装K8S

切换目录:cd/usr/local/k8s/kubernetes-1.14

加载本地镜像—k8s:docker load-i k8s-114-images.tar.gz

加载完成后查看:docker images

  1. [root@masterkubernetes-1.14]#dockerimages
  2. REPOSITORYTAGIMAGEIDCREATEDSIZE
  3. k8s.gcr.io/kube-proxyv1.14.120a2d70351652yearsago82.1MB
  4. k8s.gcr.io/kube-apiserverv1.14.1cfaa4ad74c372yearsago210MB
  5. k8s.gcr.io/kube-controller-managerv1.14.1efb3887b411d2yearsago158MB
  6. k8s.gcr.io/kube-schedulerv1.14.18931473d5bdb2yearsago81.6MB
  7. k8s.gcr.io/coredns1.3.1eb516548c1802yearsago40.3MB
  8. k8s.gcr.io/etcd3.3.102c4adeb21b4f2yearsago258MB
  9. k8s.gcr.io/pause3.1da86e6ba6ca13yearsago742kB

如果看过我上一篇K8S入门的同学,应该很熟悉这些东西,这里就不做详细介绍了,感兴趣的可以去看一看这一篇 K8S(Kubernetes)我觉得可以了解一下!!!

加载本地镜像—对集群可视化:docker load-i flannel-dashboard.tar.gz

同样我们也可以使用docker images进行查看

这一篇 K8S(Kubernetes) 集群部署 我觉得还可以

到这里我们K8S的前置工作已经完成了,但是我们今天安装的集群环境,所以上面的步骤,在其他两台机器中也要进行安装,当我们安装好了之后,其他的两台机器使用 docker images,也能 出现上面的信息表示我们安装完成,这里我们就不做重复的工作了,大家可以自行安装好

使用Kubeadm部署K8S集群

master 主服务配置

下面的步骤我们都是在 129(master) 这台服务器上执行的,请大家注意!!!

master主服务器配置:

  1. kubeadminit--kubernetes-version=v1.14.1--pod-network-cidr=10.244.0.0/16

versioin:版本

cidr:Ip范围必须在10.244之内

安装成功之后我们可以看到下面的信息:

这一篇 K8S(Kubernetes) 集群部署 我觉得还可以

第一步:

这三行命令需要我们复制以后手动去运行

  1. ##表示需要我们创建一个.kube目录
  2. mkdir-p$HOME/.kube
  3. ##将admin.conf复制到config中
  4. sudocp-i/etc/kubernetes/admin.conf$HOME/.kube/config
  5. ##进行授权操作
  6. sudochown$(id-u):$(id-g)$HOME/.kube/config

admin.conf 是 kubeadm 有关于当前集群的核心配置文件,包含了kubeadm集群信息,也包含节点的信息,大家可以看一下

这一篇 K8S(Kubernetes) 集群部署 我觉得还可以

第二步:这条命令需要我们在节点中(130、131)去运行,让我们的节点信息加入到master(129)中,我们可以先复制保存一下

  1. kubeadmjoin192.168.137.129:6443--tokenlg870y.lxik26ib84938ton\
  2. --discovery-token-ca-cert-hashsha256:6d8331fe88ae99e89608d6dc414a9fe0a378b84ffa4044d7cacfdbbf5de41871

通过kubectl获取节点信息(包含master):kubectl get nodes

这一篇 K8S(Kubernetes) 集群部署 我觉得还可以

name:主机名STATUS:状态ROLES:角色AGE:创建时间26分钟VERSION:版本

从上图中我们可以看到,节点只有master,没有Node,是因为当前没有执行第二步的操作,所以当前没有节点加入到我们的master中,当时我们看到 status是NotReady,是没有准备好,这是为什么呢,在底层肯定是有什么组件没有正常的执行,我们可以通过下面这个命令来查看

查看存在问题的pod:kubectlgetpod--all-namespaces

这一篇 K8S(Kubernetes) 集群部署 我觉得还可以

如果我们在状态(STATUS)中看到 CrashLoopBackOff一般重新执行几次 kubectlgetpod--all-namespaces命令就会没有,但是如果一直存在,表示我们硬件不够,需要增加CPU和内存资源就可以了。

我们可以前两行的是状态一直是 Pending,其他的都是 Running,这是不正常的,那为什么只有前两个是这样的,后面的是好的呢,这个问题是必然会出现的。

我们可以看到 name下 有一个 coredns,它代表的是我们基础中的网络应用,这个基础的网络应用因为缺少一个额外的组件,所以无法进行安装,在这里是因为缺少 flannel网络组件,它是pod的网络组件,我们只需要通过 kubectl 进行安装就可以了

安装flannel网络组件:kubectl create-f kube-flannel.yml

这一篇 K8S(Kubernetes) 集群部署 我觉得还可以

安装成功以后我们再使用命令:kubectlgetpod--all-namespaces,就不会出现 Pending的状态了

这一篇 K8S(Kubernetes) 集群部署 我觉得还可以

并且master也是准备就绪了

这一篇 K8S(Kubernetes) 集群部署 我觉得还可以

node 从服务配置

还记得我们在主服务(master)初始化的时候,复制下来的第二步的命令吗,我们在node(130、131)节点中只需要执行那条命令就可以了,

PS:这条命令是由我自己的master生成的,大家需要替换成你们自己的那条命令才可以。

如果我们忘记了这条命令,我们可以通过 kubeadm token list命令去查看,然后将下方的IP地址和token替换一下就可以了,其他不用替换

这一篇 K8S(Kubernetes) 集群部署 我觉得还可以

  1. kubeadmjoin192.168.137.129:6443--tokenlg870y.lxik26ib84938ton\
  2. --discovery-token-ca-cert-hashsha256:6d8331fe88ae99e89608d6dc414a9fe0a378b84ffa4044d7cacfdbbf5de41871

通过kubectl获取节点信息(包含master): kubectlgetnodes

这一篇 K8S(Kubernetes) 集群部署 我觉得还可以

然后我们就可以看到,两个节点已经加入进来了

重新启动服务

重启docker:systemctl restart docker 重启kubelet:systemctl restart kubelet 设置开机启动:systemctl enablekubelet

kubeadm/kubelet/kubectl区别

  • kubeadm:是kubernetes集群快速构建工具
  • kubelet 运行在所有节点上,负责启动Pod和容器,以系统服务形式出现
  • kubectl:kubectl是kubernetes命令行工具,提供指令

小结

到这里K8S的集群服务就讲完了,其实本身安装K8S并不复杂,但是你架不住里面有许多许多的坑,大家可能看到我安装的比较顺利,但是小农也是躺了很多坑,这篇文章才呈现给大家的,如果觉得文章对你有帮助的,记得点赞关注,你的支持我创作的最大动力。

原文链接:https://mp.weixin.qq.com/s/_YpqIiCK1Y7Zo9EErLisHw

延伸 · 阅读

精彩推荐