這篇文章將為大家詳細(xì)講解有關(guān)Kubernetes中如何利用LXCFS提升容器資源可見(jiàn)性,文章內(nèi)容質(zhì)量較高,因此小編分享給大家做個(gè)參考,希望大家閱讀完這篇文章后對(duì)相關(guān)知識(shí)有一定的了解。
成都創(chuàng)新互聯(lián)公司主營(yíng)廣饒網(wǎng)站建設(shè)的網(wǎng)絡(luò)公司,主營(yíng)網(wǎng)站建設(shè)方案,成都app開(kāi)發(fā),廣饒h5重慶小程序開(kāi)發(fā)公司搭建,廣饒網(wǎng)站營(yíng)銷(xiāo)推廣歡迎廣饒等地區(qū)企業(yè)咨詢(xún)
下面將介紹在Docker和Kubernetes環(huán)境中解決遺留應(yīng)用無(wú)法識(shí)別容器資源限制的問(wèn)題。
Linuxs利用Cgroup實(shí)現(xiàn)了對(duì)容器的資源限制,但在容器內(nèi)部依然缺省掛載了宿主機(jī)上的procfs
的/proc
目錄,其包含如:meminfo, cpuinfo,stat, uptime等資源信息。一些監(jiān)控工具如free/top或遺留應(yīng)用還依賴(lài)上述文件內(nèi)容獲取資源配置和使用情況。當(dāng)它們?cè)谌萜髦羞\(yùn)行時(shí),就會(huì)把宿主機(jī)的資源狀態(tài)讀取出來(lái),引起錯(cuò)誤和不便。
社區(qū)中常見(jiàn)的做法是利用 lxcfs來(lái)提供容器中的資源可見(jiàn)性。lxcfs 是一個(gè)開(kāi)源的FUSE(用戶態(tài)文件系統(tǒng))實(shí)現(xiàn)來(lái)支持LXC容器,它也可以支持Docker容器。
LXCFS通過(guò)用戶態(tài)文件系統(tǒng),在容器中提供下列 procfs
的文件。
/proc/cpuinfo /proc/diskstats /proc/meminfo /proc/stat /proc/swaps /proc/uptime
LXCFS的示意圖如下
比如,把宿主機(jī)的 /var/lib/lxcfs/proc/memoinfo
文件掛載到Docker容器的/proc/meminfo
位置后。容器中進(jìn)程讀取相應(yīng)文件內(nèi)容時(shí),LXCFS的FUSE實(shí)現(xiàn)會(huì)從容器對(duì)應(yīng)的Cgroup中讀取正確的內(nèi)存限制。從而使得應(yīng)用獲得正確的資源約束設(shè)定。
注:
本文采用CentOS 7.4作為測(cè)試環(huán)境,并已經(jīng)開(kāi)啟FUSE模塊支持。
Docker for Mac/Minikube等開(kāi)發(fā)環(huán)境由于采用高度剪裁過(guò)的操作系統(tǒng),無(wú)法支持FUSE,并運(yùn)行LXCFS進(jìn)行測(cè)試。
安裝 lxcfs 的RPM包
wget https://copr-be.cloud.fedoraproject.org/results/ganto/lxd/epel-7-x86_64/00486278-lxcfs/lxcfs-2.0.5-3.el7.centos.x86_64.rpm yum install lxcfs-2.0.5-3.el7.centos.x86_64.rpm
啟動(dòng) lxcfs
lxcfs /var/lib/lxcfs &
測(cè)試
$docker run -it -m 256m \ -v /var/lib/lxcfs/proc/cpuinfo:/proc/cpuinfo:rw \ -v /var/lib/lxcfs/proc/diskstats:/proc/diskstats:rw \ -v /var/lib/lxcfs/proc/meminfo:/proc/meminfo:rw \ -v /var/lib/lxcfs/proc/stat:/proc/stat:rw \ -v /var/lib/lxcfs/proc/swaps:/proc/swaps:rw \ -v /var/lib/lxcfs/proc/uptime:/proc/uptime:rw \ ubuntu:16.04 /bin/bash root@f4a2a01e61cd:/# free total used free shared buff/cache available Mem: 262144 708 261436 2364 0 261436 Swap: 0 0 0
我們可以看到total的內(nèi)存為256MB,配置已經(jīng)生效。
一些同學(xué)問(wèn)過(guò)如何在Kubernetes集群環(huán)境中使用lxcfs,我們將給大家一個(gè)示例方法供參考。
首先我們要在集群節(jié)點(diǎn)上安裝并啟動(dòng)lxcfs,我們將用Kubernetes的方式,用利用容器和DaemonSet方式來(lái)運(yùn)行 lxcfs FUSE文件系統(tǒng)。
本文所有示例代碼可以通過(guò)以下地址從Github上獲得
git clone https://github.com/denverdino/lxcfs-initializer cd lxcfs-initializer
其manifest文件如下
apiVersion: apps/v1beta2 kind: DaemonSet metadata: name: lxcfs labels: app: lxcfs spec: selector: matchLabels: app: lxcfs template: metadata: labels: app: lxcfs spec: hostPID: true tolerations: - key: node-role.kubernetes.io/master effect: NoSchedule containers: - name: lxcfs image: registry.cn-hangzhou.aliyuncs.com/denverdino/lxcfs:2.0.8 imagePullPolicy: Always securityContext: privileged: true volumeMounts: - name: rootfs mountPath: /host volumes: - name: rootfs hostPath: path: /
注: 由于 lxcfs FUSE需要共享系統(tǒng)的PID名空間以及需要特權(quán)模式,所有我們配置了相應(yīng)的容器啟動(dòng)參數(shù)。
可以通過(guò)如下命令在所有集群節(jié)點(diǎn)上自動(dòng)安裝、部署完成 lxcfs,是不是很簡(jiǎn)單?:-)
kubectl create -f lxcfs-daemonset.yaml
那么如何在Kubernetes中使用 lxcfs 呢?和上文一樣,我們可以在Pod的定義中添加對(duì) /proc 下面文件的 volume(文件卷)和對(duì) volumeMounts(文件卷掛載)定義。然而這就讓K8S的應(yīng)用部署文件變得比較復(fù)雜,有沒(méi)有辦法讓系統(tǒng)自動(dòng)完成相應(yīng)文件的掛載呢?
Kubernetes提供了 Initializer 擴(kuò)展機(jī)制,可以用于對(duì)資源創(chuàng)建進(jìn)行攔截和注入處理,我們可以借助它優(yōu)雅地完成對(duì)lxcfs文件的自動(dòng)化掛載。
注: 阿里云Kubernetes集群,已經(jīng)默認(rèn)開(kāi)啟了對(duì) Initializer 的支持,如果是在自建集群上進(jìn)行測(cè)試請(qǐng)參見(jiàn)文檔開(kāi)啟相應(yīng)功能
其 manifest 文件如下
apiVersion: rbac.authorization.k8s.io/v1 kind: ClusterRole metadata: name: lxcfs-initializer-default namespace: default rules: - apiGroups: ["*"] resources: ["deployments"] verbs: ["initialize", "patch", "watch", "list"] --- apiVersion: v1 kind: ServiceAccount metadata: name: lxcfs-initializer-service-account namespace: default --- kind: ClusterRoleBinding apiVersion: rbac.authorization.k8s.io/v1 metadata: name: lxcfs-initializer-role-binding subjects: - kind: ServiceAccount name: lxcfs-initializer-service-account namespace: default roleRef: kind: ClusterRole name: lxcfs-initializer-default apiGroup: rbac.authorization.k8s.io --- apiVersion: apps/v1beta1 kind: Deployment metadata: initializers: pending: [] labels: app: lxcfs-initializer name: lxcfs-initializer spec: replicas: 1 template: metadata: labels: app: lxcfs-initializer name: lxcfs-initializer spec: serviceAccountName: lxcfs-initializer-service-account containers: - name: lxcfs-initializer image: registry.cn-hangzhou.aliyuncs.com/denverdino/lxcfs-initializer:0.0.2 imagePullPolicy: Always args: - "-annotation=initializer.kubernetes.io/lxcfs" - "-require-annotation=true" --- apiVersion: admissionregistration.k8s.io/v1alpha1 kind: InitializerConfiguration metadata: name: lxcfs.initializer initializers: - name: lxcfs.initializer.kubernetes.io rules: - apiGroups: - "*" apiVersions: - "*" resources: - deployments
注: 這是一個(gè)典型的 Initializer 部署描述,首先我們創(chuàng)建了service account lxcfs-initializer-service-account
,并對(duì)其授權(quán)了 "deployments" 資源的查找、更改等權(quán)限。然后我們部署了一個(gè)名為 "lxcfs-initializer" 的Initializer,利用上述SA啟動(dòng)一個(gè)容器來(lái)處理對(duì) "deployments" 資源的創(chuàng)建,如果deployment中包含 initializer.kubernetes.io/lxcfs
為true
的注釋?zhuān)蜁?huì)對(duì)該應(yīng)用中容器進(jìn)行文件掛載
我們可以執(zhí)行如下命令,部署完成之后就可以愉快地玩耍了
kubectl apply -f lxcfs-initializer.yaml
下面我們部署一個(gè)簡(jiǎn)單的Apache應(yīng)用,為其分配256MB內(nèi)存,并且聲明了如下注釋 "initializer.kubernetes.io/lxcfs": "true"
其manifest文件如下
apiVersion: apps/v1beta1 kind: Deployment metadata: annotations: "initializer.kubernetes.io/lxcfs": "true" labels: app: web name: web spec: replicas: 1 template: metadata: labels: app: web name: web spec: containers: - name: web image: httpd:2 imagePullPolicy: Always resources: requests: memory: "256Mi" cpu: "500m" limits: memory: "256Mi" cpu: "500m"
我們可以用如下方式進(jìn)行部署和測(cè)試
$ kubectl create -f web.yaml deployment "web" created $ kubectl get pod NAME READY STATUS RESTARTS AGE web-7f6bc6797c-rb9sk 1/1 Running 0 32s $ kubectl exec web-7f6bc6797c-rb9sk free total used free shared buffers cached Mem: 262144 2876 259268 2292 0 304 -/+ buffers/cache: 2572 259572 Swap: 0 0 0
我們可以看到 free
命令返回的 total memory 就是我們?cè)O(shè)置的容器資源容量。
我們可以檢查上述Pod的配置,果然相關(guān)的 procfs 文件都已經(jīng)掛載正確
$ kubectl describe pod web-7f6bc6797c-rb9sk ... Mounts: /proc/cpuinfo from lxcfs-proc-cpuinfo (rw) /proc/diskstats from lxcfs-proc-diskstats (rw) /proc/meminfo from lxcfs-proc-meminfo (rw) /proc/stat from lxcfs-proc-stat (rw) ...
關(guān)于Kubernetes中如何利用LXCFS提升容器資源可見(jiàn)性就分享到這里了,希望以上內(nèi)容可以對(duì)大家有一定的幫助,可以學(xué)到更多知識(shí)。如果覺(jué)得文章不錯(cuò),可以把它分享出去讓更多的人看到。
網(wǎng)站標(biāo)題:Kubernetes中如何利用LXCFS提升容器資源可見(jiàn)性
網(wǎng)頁(yè)網(wǎng)址:http://aaarwkj.com/article2/igdeic.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站建設(shè)、網(wǎng)站制作、網(wǎng)站設(shè)計(jì)、響應(yīng)式網(wǎng)站、網(wǎng)站排名、網(wǎng)站營(yíng)銷(xiāo)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)