Kuberentes|Kuberentes 1.20.5搭建eck
前言:
kubernetes1.16版本的时候安装了elastic on kubernetes(ECK)1.0版本。存储用了local disk文档跑了一年多了。elasticsearch对应版本是7.6.2。现在已完成了kubernetes 1.20.5 containerd cilium hubble 环境的搭建(https://blog.csdn.net/saynaihe/article/details/115187298)并且集成了cbs腾讯云块存储(https://blog.csdn.net/saynaihe/article/details/115212770)。eck也更新到了1.5版本(我能说我前天安装的时候还是1.4.0吗.....还好我只是简单应用没有太复杂的变化无非版本变了....那就再来一遍吧)
最早部署的kubernetes1.16版本的eck安装方式https://duiniwukenaihe.github.io/2019/10/21/k8s-efk/多年前搭建的eck1.0版本。
关于eck
elastic cloud on kubernetes是一种operator的安装方式,很大程度上简化了应用的部署。同样的还有promtheus-operator。
可参照https://www.elastic.co/guide/en/cloud-on-k8s/current/k8s-deploy-eck.html官方文档的部署方式。
1. 在kubernete集群中部署ECK
1. 安装自定义资源定义和操作员及其RBAC规则:
kubectl apply -f https://download.elastic.co/d...
2. 监视操作日志:
kubectl -n elastic-system logs -f statefulset.apps/elastic-operator
**
-----------------------分隔符-----------------
我是直接把yaml下载到本地了。
###至于all-in-one.yaml.1后面的1可以忽略了哈哈,第二次加载文件加后缀了。
kubectl apply -f all-in-one.yaml
kubectl -n elastic-system logs -f statefulset.apps/elastic-operator
文章图片
2. 部署elasticsearch集群 1. 定制化elasticsearch 镜像 增加s3插件,修改时区东八区,并添加腾讯云cos的秘钥,并重新打包elasticsearch镜像.
1. DockerFile如下
FROM docker.elastic.co/elasticsearch/elasticsearch:7.12.0
ARG ACCESS_KEY=XXXXXXXXX
ARG SECRET_KEY=XXXXXXX
ARG ENDPOINT=cos.ap-shanghai.myqcloud.com
ARG ES_VERSION=7.12.0ARG PACKAGES="net-tools lsof"
ENV allow_insecure_settings 'true'
RUN rm -rf /etc/localtime && cp /usr/share/zoneinfo/Asia/Shanghai /etc/localtimeRUN echo 'Asia/Shanghai' > /etc/timezone
RUNif [ -n "${PACKAGES}" ];
thenyum install -y $PACKAGES && yum clean all && rm -rf /var/cache/yum;
fi
RUN \
/usr/share/elasticsearch/bin/elasticsearch-plugin install --batch repository-s3 && \
/usr/share/elasticsearch/bin/elasticsearch-keystore create && \
echo "XXXXXX"| /usr/share/elasticsearch/bin/elasticsearch-keystore add --stdin s3.client.default.access_key&& \
echo "XXXXXX"| /usr/share/elasticsearch/bin/elasticsearch-keystore add --stdin s3.client.default.secret_key
2. 打包镜像并上传到腾讯云镜像仓库,也可以是其他私有仓库
docker build -t ccr.ccs.tencentyun.com/xxxx/elasticsearch:7.12.0 .
docker pushccr.ccs.tencentyun.com/xxxx/elasticsearch:7.12.0
文章图片
2. 创建elasticsearch部署yaml文件,部署elasticsearch集群 修改了自己打包 image tag ,使用了腾讯云cbs csi块存储。并定义了部署的namespace,创建了namespace logging.
1. 创建部署elasticsearch应用的命名空间
kubectl create ns logging
cat < elastic.yaml
apiVersion: elasticsearch.k8s.elastic.co/v1
kind: Elasticsearch
metadata:
name: elastic
namespace: logging
spec:
version: 7.12.0
image: ccr.ccs.tencentyun.com/XXXX/elasticsearch:7.12.0
http:
tls:
selfSignedCertificate:
disabled: true
nodeSets:
- name: laya
count: 3
podTemplate:
spec:
containers:
- name: elasticsearch
env:
- name: ES_JAVA_OPTS
value: -Xms2g -Xmx2g
resources:
requests:
memory: 4Gi
cpu: 0.5
limits:
memory: 4Gi
cpu: 2
config:
node.master: true
node.data: true
node.ingest: true
node.store.allow_mmap: false
volumeClaimTemplates:
- metadata:
name: elasticsearch-data
spec:
accessModes:
- ReadWriteOnce
storageClassName: cbs-csi
resources:
requests:
storage: 200Gi
EOF
文章图片
2. 部署yaml文件并查看应用部署状态
kubectl apply -f elastic.yaml
kubectl get elasticsearch -n logging
kubectl get elasticsearch -n logging
kubectl -n logging get pods --selector='elasticsearch.k8s.elastic.co/cluster-name=elastic'
文章图片
3. 获取elasticsearch凭据
kubectl -n logging get secret elastic-es-elastic-user -o=jsonpath='{.data.elastic}' | base64 --decode;
echo
文章图片
4. 直接安装kibana了 修改了时区,和elasticsearch镜像一样都修改到了东八区,并将语言设置成了中文,关于selfSignedCertificate原因参照https://www.elastic.co/guide/en/cloud-on-k8s/1.4/k8s-kibana-http-configuration.html。
cat < kibana.yaml
apiVersion: kibana.k8s.elastic.co/v1
kind: Kibana
metadata:
name: elastic
namespace: logging
spec:
version: 7.12.0
image: docker.elastic.co/kibana/kibana:7.12.0
count: 1
elasticsearchRef:
name: elastic
http:
tls:
selfSignedCertificate:
disabled: true
podTemplate:
spec:
containers:
- name: kibana
env:
- name: I18N_LOCALE
value: zh-CN
resources:
requests:
memory: 1Gi
limits:
memory: 2Gi
volumeMounts:
- name: timezone-volume
mountPath: /etc/localtime
readOnly: true
volumes:
- name: timezone-volume
hostPath:
path: /usr/share/zoneinfo/Asia/Shanghai
EOF
kubectl apply kibana.yaml
5. 对外映射kibana 服务 对外暴露都是用traefik https 代理,命名空间添加tls secret。绑定内部kibana service.然后外部slb udp代理443端口。但是现在腾讯云slb可以挂载多个证书了,就把这层剥离了,直接http方式到80端口 。然后https 证书 都在slb负载均衡代理了。这样省心了证书的管理,还有一点是可以在slb层直接收集接入层日志到cos。并可使用腾讯云自有的日志服务。
cat < ingress.yaml
apiVersion: traefik.containo.us/v1alpha1
kind: IngressRoute
metadata:
name: kibana-kb-http
namespace: logging
spec:
entryPoints:
- web
routes:
- match: Host(`kibana.XXXXX.com`)
kind: Rule
services:
- name: elastic-kb-http
port: 5601
EOF
kubectl apply -f ingress.yaml
输入 用户名elastic 密码为上面获取的elasticsearch的凭据,进入管理页面。新界面很是酷炫
文章图片
6. now 要添加快照仓库了
文章图片
创建快照仓库跟S3方式是一样的,具体的可以参考https://blog.csdn.net/ypc123ypc/article/details/87860583这篇博文
PUT _snapshot/esbackup
{
"type": "s3",
"settings": {
"endpoint":"cos.ap-shanghai.myqcloud.com",
"region": "ap-shanghai",
"compress" : "true",
"bucket": "elastic-XXXXXXX"
}
}
【Kuberentes|Kuberentes 1.20.5搭建eck】
文章图片
OK 进行验证快照仓库是否添加成功
文章图片
文章图片
还原一个试试?
文章图片
文章图片
文章图片
可还行?等待变绿
文章图片
基本完成。正常可以使用了。使用过程中还有很多注意的。关键还是集群的设计规划。数据的预估增长还有报警。下次有时间列一下Elastalert在kubernetes中的部署应用。
推荐阅读
- 六步搭建ES6语法环境
- (1)redis集群原理及搭建与使用(1)
- 桁架搭建有什么价值()
- VM|VM ware 的 harbor 私有仓库搭建 (Ubuntu16.04)
- PHP开发-Mac搭建ThinkPHP5.0
- Python|Win10下 Python开发环境搭建(PyCharm + Anaconda) && 环境变量配置 && 常用工具安装配置
- sentry搭建错误监控系统(二)
- 【乐高创意作品】超智能!这款乐高搭建的除草机!
- 8、Flask构建弹幕微电影网站-搭建后台页面-密码修改、主页控制面板
- 适用于小白(VSCode搭建Vue项目,最详细的搭建步骤哦)