白日放歌须纵酒,青春作伴好还乡。这篇文章主要讲述Linux虚拟机环境搭建JAVA安装flink安装相关的知识,希望能为你提供帮助。
虚拟机环境搭建
虚拟机环境搭建比较容易,网上教程很多,我常用的是ubantu18.04,资源链接为:??https://pan.baidu.com/s/1ACDAwWqUi4Q9FSVCbtGDUQ??。提取码:sdlh。
进入后第一步安装VMware tools;再设置root密码:先sudo passwd,再输入设置的用户密码,再输入root密码,再确认,最后ok。su root进入root用户,进行软件更新以及ssh server的安装。
安装成功之后要先使用命令“sudo apt-get update”再使用命令“sudo apt-get upgrade”。因为我习惯使用vim,所以直接安装它:sudo apt install vim。因为Linux环境很多时候需要使用ssh连接远程服务器,所以我们看ssh server是否开启,第一次一般都是没有这个东西的。
查询命令:/etc/init.d/ssh status
安装命令:sudo apt-get install openssh-server
开启服务命令:systemctl restart
sshd
这里我们需要先修改一些配置文件 sudo vim /etc/ssh/sshd_config,将#PermitRootLogin prohibit-password下添加一行“PermitRootLogin yes”。修改之后再使用命令:systemctl restart
sshd重启服务。
一般到这个时候,虚拟机之间就可以连接了,如:ssh xxx.xxx.xxx.xxx
退出远程连接:exit
JAVA安装
使用命令下载文件,使用命令解压缩,也可以使用“sudo apt install openjdk-8-jre-headless”安装。
配置环境变量:sudo vim /etc/profile
添加如下代码
#java
export JAVA_HOME=/usr/local/jdk
export PATH=$JAVA_HOME/bin:$PATH
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
这里的jdk是我下载的java版本的软连接(ln -s jdk1.8 jdk),这样做的好处是可以方便以后版本更新,不用修改配置文件。
flink安装
??去官网下载需要安装的版本??。下载之后在系统里解压缩“tar -zxvf xxx.tar.gz或者tar -xvf xxx.tar.tgz”,然后先配置flink的环境变量。
配置环境变量:sudo vim /etc/profile
添加如下代码
#flink
export FLINK_HOME=/home/elfin/Flink_install/flink
export PATH=$PATH:$FLINK_HOME/bin
注意路径每个人的不一样,一般大家喜欢放在 /usr/local/ 下,我这里是放在家目录下的用户目录中。可以修改用户目录下的 .bashrc文件,在其中添加一行:“source /etc/profile”。
每个linux系统都需要进行配置,为了方便也可以先配置一个再同步相应数据(环境变量这些还是要一个一个配好的)。在配置flink之前,我们先设置计算设备别名与免密登录。
设置设备别名:
192.158.144.172 flink_master
192.158.144.178
flink_slave
免密登录:
(1) 安装ssh-server:sudo apt-get install openssh-server 这里我的机器不能连接远程机器,所有需要安装ssh-sever。完成之后可以使用“ssh localhost”验证是否可以连接远程服务器。
(2) 配置文件:/etc/ssh/sshd_config
添加如下内容
1 # 启用 RSA 认证
2 RSAAuthentication yes
3 # 启用公钥私钥配对认证方式
4 PubkeyAuthentication yes
5 # 公钥文件路径
6 AuthorizedKeysFile .ssh/authorized_keys
注意上面的密钥文件是不存在的,所以我们先对每个节点生成密钥,再将公钥放到authorized_keys中。
(3) 对每个机器生成密钥文件,默认生成到 /.ssh 下
命令:ssh-keygen -t rsa -P
如图所示,生成了密钥文件 id_rsa、id_rsa.pub
再生成一个汇总的公钥文件:authorized_keys
(4) 将elfin_keys的内容汇总
master的内容追加到slave
参考链接:SSH免密登录
配置文件
配置flink需要进入conf文件夹,即:/home/elfin/Flink_install/flink/conf,此文件夹与bin文件夹同级,子文件如下:
这里面我们主要是要配置三个文件:主配置文件flink-conf.yaml、masters、slaves。其中log4j、logback见名知意,这些都是配置日志的,暂时先不管它。
flink-conf.yaml配置
我们主要修改jobmanager.heap.size、taskmanager.heap.size、taskmanager.numberOfTaskSlots、parallelism.default;我在这里将slot槽修改为2.
masters配置
主要是配置Job Managers,可以理解为某个项目配置。
这里我选择在本地作为master,所以默认为localhost:8081即可
slaves配置
主要是配置Task Managers,可以理解为项目的任务做配置。命令:sudo vim slaves
配置你的slaves的IP或者主机名,如:
192.158.144.178
192.158.144.172
flink-slave1
flink-slave2
配置好之后你就可以启动你的集群了,这里我们使用自带的脚本。命令:./bin/start-cluster.sh (这里的bin目录为flink目录中的bin),启动之后如图所示:
这里的master1、slave1都作为一个task节点。 登录flink-master:8081可以看到:
测试flink自带的jar包:
先监控slave的9000端口:nc -lp 9000
再运行jar包:flink run ./examples/streaming/SocketWindowWordCount.jar --hostname flink-slave --port 9000
运行结果:
slave节点输入数据,master端口显示:
【Linux虚拟机环境搭建JAVA安装flink安装】清澈的爱,只为中国
推荐阅读
- #导入Word文档图片# Linux系统与终端基础命令介绍
- 如何在 JavaScript 中让代码更加精简
- flink开发环境搭建maven环境搭建IDEA环境搭建
- 卷积神经网络中的CNN是啥()
- kuberneteskubeadm安装多master节点的k8s集群
- MySQL数据库(19)(高级数据操作-查询数据)
- Flannel 同节点通信
- 虚拟化技术KVMkvm虚拟机创建-生成脚本
- 没有JDK和Maven,用Docker也能构建Maven工程