Terraform与Kubernetes的体验

笛里谁知壮士心,沙头空照征人骨。这篇文章主要讲述Terraform与Kubernetes的体验相关的知识,希望能为你提供帮助。
背景:
Terraform体验了腾讯云的CVM的基本操作。正常流程要去体验一下其他基础组件的整合比如数据库redis等基础组件,还有现有资源的导入。配置文件的合理配置等等等....先插播一下kubernetes的体验吧......毕竟我主要的工作环境是Kubernetes!也有tke。其实也可以体验下tke的整合?现在先单独体验下原生的kubernetes吧!
Terraform与Kubernetes的体验 1.关于Documentation的快速导读扫了一眼官方文档https://registry.terraform.io/providers/hashicorp/kubernetes/latest/docs。第一眼下去我就找到了我的关注点: Guides(指南,应该包括如何连接kubernetes集群),几个常用的api: apps/v1,core/v1,networking/v1,rbac/v1!

Terraform与Kubernetes的体验

文章图片

2.terraform 连接kubernetes集群以及简单操作 1. terraform 连接kubernetes集群初始化相关 1. 指定required_providers
看一眼Guides:
https://registry.terraform.io/providers/hashicorp/kubernetes/latest/docs/guides/v2-upgrade-guide#using-required_providers-to-test-the-update
首先是插件版本的指定(截至当前:最新文档是2.9.0,但是没有加版本号下载的版本是2.10.0)
Terraform与Kubernetes的体验

文章图片

2. terraform连接kubernetes集群的两种方式
参照官方文档:https://registry.terraform.io/providers/hashicorp/kubernetes/latest/docs/guides/getting-started#provider-setup,看一眼连接terraform kubernetes的两种方式:
  1. kubeconfig path
  2. host and tls证书
Terraform与Kubernetes的体验

文章图片

看个人喜好了。我是选择了第一种连接方式!
3. 创建工作目录初始化terraform并顺便创建一个namespace
1. 创建工作目录
[root@k8s-master-01 ~]# mkdir terraform-k8s [root@k8s-master-01 ~]# cd terraform-k8s/

2. 创建provider.tf[root@k8s-master-01 terraform-k8s]# cat provider.tf
terraform required_providers kubernetes = source= "hashicorp/kubernetes" version = "> = 2.10.0"provider "kubernetes" config_path= "~/.kube/config" config_context = "kubernetes-admin@kubernetes"resource "kubernetes_namespace" "zhangpeng" metadata name = "zhangpeng"

3. terraform init
root@k8s-master-01 terraform-k8s]# terraform init

Terraform与Kubernetes的体验

文章图片

注意: 官方文档貌似现在最新是2.9.0,但是开始我没有加版本好显示有2.10.0就直接写2.10.0了
4. terraform plan and terraform apply
[root@k8s-master-01 terraform-k8s]# terraform plan

Terraform与Kubernetes的体验

文章图片

Terraform与Kubernetes的体验

文章图片

5. 验证namespace的创建
[root@k8s-master-01 terraform-k8s]# kubectl get ns

Terraform与Kubernetes的体验

文章图片

2. terraform 创建一个deployments? and 绑定一个ingress并打印出相关信息?看了一眼官方文档有点忧伤https://registry.terraform.io/providers/hashicorp/kubernetes/latest/docs/resources/deployment_v1#import。deployment有两个相关文档deploymentand deployment_v1。目测了一眼只有resource下的区别。现在deployment应该都是v1吧?就用个v1的配置文件吧!
Terraform与Kubernetes的体验

文章图片

1. 创建一个nginx的deployment应用
参照官方文档。只增加了namespace的限定!
cat nginx.tf
resource "kubernetes_deployment_v1" "example" metadata name = "terraform-example" namespace = "zhangpeng" labels = test = "MyExampleApp"spec replicas = 3selector match_labels = test = "MyExampleApp"template metadata labels = test = "MyExampleApp"spec container image = "nginx:1.21.6" name= "example"resources limits = cpu= "0.5" memory = "512Mi"requests = cpu= "250m" memory = "50Mi"liveness_probe http_get path = "/" port = 80http_header name= "X-Custom-Header" value = "https://www.songbingjia.com/android/Awesome"initial_delay_seconds = 3 period_seconds= 3

[root@k8s-master-01 terraform-k8s]# terraform plan

Terraform与Kubernetes的体验

文章图片

[root@k8s-master-01 terraform-k8s]# terraform apply

Terraform与Kubernetes的体验

文章图片

enter a value 输入yes!
[root@k8s-master-01 terraform-k8s]# kubectl get pods -n zhangpeng

恩这一步等了好久 差不多两分钟具体原因查看livenessProbeinitialDelaySeconds periodSeconds相关设置!
[root@k8s-master-01 terraform-k8s]# kubectl get all -n zhangpeng NAMEREADYSTATUSRESTARTSAGE pod/terraform-example-78ff4f86d7-bxfwj1/1Running06m26s pod/terraform-example-78ff4f86d7-vb2p71/1Running06m26s pod/terraform-example-78ff4f86d7-vqm6b1/1Running06m26sNAMEREADYUP-TO-DATEAVAILABLEAGE deployment.apps/terraform-example3/3336m26sNAMEDESIREDCURRENTREADYAGE replicaset.apps/terraform-example-78ff4f86d73336m26s

2.创建sevice相关配置绑定deployment
service相关文档应该是在core/v1吧?查看一下,搜索栏还是很有用的
Terraform与Kubernetes的体验

文章图片

cat service.tf
resource "kubernetes_service" "terraform-example-service" metadata name= "terraform-example-service" namespace = kubernetes_namespace.zhangpeng.metadata.0.namespec selector = test = kubernetes_deployment_v1.example.spec.0.template.0.metadata.0.labels.testsession_affinity = "ClientIP" port port= 80 target_port = 80type = "ClusterIP"

注意:标签的匹配:selector的标签,namespace deployment的版本是否带v1。session_affinity还有type都是kubernetes的基础自行脑补!type的三种方式按照自己环境需求自行设置。
terraform plan and terraform apply
[root@k8s-master-01 terraform-k8s]# terraform plan [root@k8s-master-01 terraform-k8s]# terraform apply

Terraform与Kubernetes的体验

文章图片

Terraform与Kubernetes的体验

文章图片

[root@k8s-master-01 terraform-k8s]# kubectl get svc -n zhangpeng NAMETYPECLUSTER-IPEXTERNAL-IPPORT(S)AGE terraform-example-serviceClusterIP172.19.253.9< none> 80/TCP30s

3.创建ingress绑定clusterip
对应官方文档:
https://registry.terraform.io/providers/hashicorp/kubernetes/latest/docs/resources/ingress_v1
Terraform与Kubernetes的体验

文章图片

本人kuberntes环境v1.21.3.ingress使用的traefik代理方式可以使用networking/v1的ingress还有traefik 的ingressroute 还有gateway api?这里懒得去看traefik相关了(traefik貌似也没有官方的。搜到一个1.17版本的非官方的) 直接按照networking/v1的ingressnetworking/v1的模板去写tf配置文件了:
cat ingress.tf
resource "kubernetes_ingress_v1" "nginx_ingress_test" metadata name = "nginx-ingress-test" namespace = kubernetes_namespace.zhangpeng.metadata.0.name annotations = "kubernetes.io/ingress.class" = "traefik" "traefik.ingress.kubernetes.io/router.entrypoints" = "web"spec rule host ="nginx-ingress-test.xxxx.com" http path path ="/" backend service name = "terraform-example-service" port number = 80

强调一下:这里本来想设置pathType,但是设置了就有报错。我想看一下默认的是什么!
terraform planandterraform apply
[root@k8s-master-01 terraform-k8s]# terraform plan [root@k8s-master-01 terraform-k8s]# terraform apply

Terraform与Kubernetes的体验

文章图片

pathType: ImplementationSpecific!抽时间看一下这个 ImplementationSpecific
Terraform与Kubernetes的体验

文章图片

Terraform与Kubernetes的体验

文章图片

web访问测试一下:
Terraform与Kubernetes的体验

文章图片

关于我的ingress traefik 清参照:Kubernetes 1.20.5 安装traefik在腾讯云下的实践
storage这里看了下不太合适去做。rbac也不想太多的演示了!
3. 顺便看一下腾讯云的tke的文档【Terraform与Kubernetes的体验】看了一眼tke相关文档也没有什么太深入想看的,比如cbs快存储 clb整合之类的?
Terraform与Kubernetes的体验

文章图片

看了阿里云的也是类似大家都差不多
Terraform与Kubernetes的体验

文章图片

总结一下
  1. terraform能完成很多工作,现在的很多主流的平台都能满足
  2. terraform很多时候并不是最优的,不是万能最佳。管理kubernetes反正我觉得就没有用spinnaker等其他的工具简单
  3. 只是提前想体验一下kubernetes的整合。后面terraform还是停留在管理我的基础设施上面.kubernetes管理我还是不会用terraform的

    推荐阅读