您的位置:首页 > 房产 > 建筑 > Java版Flink使用指南——安装Flink和使用IntelliJ制作任务包

Java版Flink使用指南——安装Flink和使用IntelliJ制作任务包

2024/10/5 7:36:17 来源:https://blog.csdn.net/breaksoftware/article/details/140054903  浏览:    关键词:Java版Flink使用指南——安装Flink和使用IntelliJ制作任务包

大纲

  • 安装Flink
    • 操作系统
    • 安装JDK
    • 安装Flink
    • 修改配置
    • 启动Flink
    • 测试
  • 使用IntelliJ制作任务包
    • 新建工程
      • Archetype
    • 编写测试代码
    • 打包
    • 测试
  • 参考资料

在《0基础学习PyFlink》专题中,我们熟悉了Flink的相关知识以及Python编码方案。这个系列我们将使用相对主流的Java语言,来实践Flink的相关设计。

安装Flink

操作系统

我安装的是Ubuntu 22TLS版。

cat /proc/version

Linux version 5.15.0-112-generic (buildd@lcy02-amd64-051) (gcc (Ubuntu 11.4.0-1ubuntu1~22.04) 11.4.0, GNU ld (GNU Binutils for Ubuntu) 2.38) #122-Ubuntu SMP Thu May 23 07:48:21 UTC 2024

安装JDK

sudo apt install openjdk-11-jdk

通过下面命令查看java版本号

java --version

openjdk 11.0.23 2024-04-16
OpenJDK Runtime Environment (build 11.0.23+9-post-Ubuntu-1ubuntu122.04.1)
OpenJDK 64-Bit Server VM (build 11.0.23+9-post-Ubuntu-1ubuntu122.04.1, mixed mode, sharing)

安装Flink

从https://flink.apache.org/downloads/可以获得最新的地址

wget https://dlcdn.apache.org/flink/flink-1.19.1/flink-1.19.1-bin-scala_2.12.tgz .
tar -xzf flink-*.tgz

修改配置

为了让本地之外的其他机器可以访问,我们需要修改Flink的配置

 vim flink-1.19.1/conf/config.yaml

把所有的localhost改成0.0.0.0
vim的指令是

:%s/localhost/0.0.0.0/g

启动Flink

cd flink-1.19.1/
./bin/start-cluster.sh

Starting cluster.
Starting standalonesession daemon on host fangliang.
Starting taskexecutor daemon on host fangliang.

测试

我们通过IP:8081打开后台,可以看到正常显示
在这里插入图片描述
然后我们运行一个软件包自带的任务包

./bin/flink run examples/streaming/WordCount.jar

可以看到如下输出

Executing example with default input data.
Use --input to specify file input.
Printing result to stdout. Use --output to specify output path.
Job has been submitted with JobID 6c309e274649b1585a6be46197b16880
Program execution finished
Job with JobID 6c309e274649b1585a6be46197b16880 has finished.
Job Runtime: 414 ms

以及在后台的任务完成列表中看到该任务
在这里插入图片描述

使用IntelliJ制作任务包

我们使用Maven方案。

新建工程

JDK选择和Flink运行环境匹配的Java 11。

Archetype

组ID:org.apache.flink
工件ID:flink-quickstart-java
版本:1.19.1
这个版本号就是我们下载的Flink的版本号。
在这里插入图片描述
在这里插入图片描述
会生成如下结构的工程
在这里插入图片描述

编写测试代码

我们在DataStreamJob.java中插入如下代码:

		env.fromData(1, 2, 3, 4, 5).map(i -> i * i).print();

打包

在这里插入图片描述
然后我们看到target目录下生成了jar包
在这里插入图片描述

测试

在Flink后台,我们上传这个包
在这里插入图片描述
然后运行这个包
在这里插入图片描述
可以看到这个包正常运行了
在这里插入图片描述

参考资料

  • https://flink.apache.org/downloads/

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com