热文Flink应用开发系列(十三)数据集转换之MapFunction 相信大家跟着前面的应用开发系列的文章进行充分的自行编码之后,对于flink应用开发都比较熟悉了。本文我们介绍下数据集转换中的mapfunction。mapfunction主要应用于map函数,这里我们可以通过mapf... Raeflink系列2023-08-041421 阅读0 评论
Flink应用开发系列(十二)DataSet开发之将参数传递给函数 在实际的flink开发中,我们还会涉及到自定义一些参数,然后把这些参数的值传递给某些方法,这样子在这些方法里面就可以获取到对应配置的自定义参数了。在日常的java开发中,我们经常会涉及到使用构造函数向某个类函数传递参... Raeflink系列2023-08-04936 阅读0 评论
热文Flink应用开发系列(十一)DataSet开发之分布式缓存 我们知道flink这块是属于分布式计算框架,因此在实际计算的时候,会把整个job切分成很多的task,然后把一部分task聚集到A worker节点上执行,某些task聚集到B worker节点上执行。这就是整个分布... Raeflink系列2023-08-041045 阅读0 评论
Flink应用开发系列(十)DataSet开发之迭代之DeltaIteration 上文《Flink应用开发系列(九)DataSet开发之迭代之BulkIteration》我们介绍了BulkIteration迭代,本文的话,我们介绍下另外一个迭代,也就是DeltaIteration迭代,简称:Del... Raeflink系列2023-08-03988 阅读0 评论
热文Flink应用开发系列(九)DataSet开发之迭代之BulkIteration 在flink的应用程序中我们经常在数据分析领域,例如机器学习或者图形分析的时候,我们会涉及到迭代的算法,那什么是迭代呢?这里我们简单的举个案例:给一组(10000个)随机数,查找最小的那个数。这个案例就是我们会涉及到... Raeflink系列2023-08-031069 阅读0 评论
Flink应用开发系列(八)DataSet开发之排序输出 上文《Flink应用开发系列(七)DataSet开发之自带的写入存储函数》我们介绍了flink开发中Dataset中写入存储的函数,但是在实际情况中,我们会涉及到排序的输出,也就是在最后的输出结果中,我们需要根据某个... Raeflink系列2023-08-02893 阅读0 评论
Flink应用开发系列(七)DataSet开发之自带的写入存储函数 上文《Flink应用开发系列(六)DataSet开发之自带的读取数据源函数》我们介绍了Flink读取数据源的自带函数,本文的话,我们介绍下Flink写入存储的自带函数。序号函数说明示例1writeAsText()按字... Raeflink系列2023-08-02845 阅读0 评论
Flink应用开发系列(六)DataSet开发之自带的读取数据源函数 在前面的文章里面,我们介绍过Dataset是从固定的数据源里面读取数据的,所以这里的话,我们列巨额下Flink自带的读取数据源相关的函数,同时也是以表格的事项列举。序号函数说明示例1readTextFile(path... Raeflink系列2023-08-02834 阅读0 评论
Flink应用开发系列(五)DataSet开发之数据集转换函数及示例用法 在上一篇文章《Flink应用开发系列(四)DataSet开发之实现wordcount》我们介绍了wordcount的示例,在代码里面我们使用了flatmap、groupBy、sum等函数来对数据进行转换操作,本文的话... Raeflink系列2023-08-02995 阅读0 评论
Flink应用开发系列(四)DataSet开发之实现wordcount 在上一篇文章《Flink应用开发系列(三)DataSet概念介绍》我们介绍了Dataset,本文的话,我们编写一个wordcount程序给大家演示一下Dataset的用法及实现效果。背景这里我们模拟从集合读取数据,然... Raeflink系列2023-08-02945 阅读0 评论
热文Flink应用开发系列(三)DataSet概念介绍 在前面的文章里面,我们把flink基础的项目创建完成了,因此这里的话,我们开始进入实质的应用开发系列,本文的话,我们介绍下DataSet。首先说下Dataset的应用场景,这里的Dataset一般的应用场景主要是针对... Raeflink系列2023-08-021027 阅读0 评论
热文Flink应用开发系列(二)Flink项目基本依赖 上一篇文章《Flink应用开发系列(一)创建一个java项目模板》我们创建了一个基础的模板。在pom.xml中我们可以看到默认引入了好几个依赖,示例如下: org.apach... Raeflink系列2023-08-021038 阅读0 评论
热文Flink应用开发系列(一)创建一个java项目模板 在我们安装了flink 集群及使用flink自带的案例之后,我们就会涉及到真实的flink应用的开发了,所以从本文开始,我们来挨个介绍下flink 应用开发相关的系列。本文介绍使用maven模板创建一个基于Flink... Raeflink系列2023-08-021137 阅读0 评论
热文Flink Sql开发系列(九)Flink Sql中内置函数 在flink sql的开发中,我们还会涉及到很多的sql内置函数,可以让我们在sql开发中很方便的对数据进行处理。本文的话我们列举下Flink Sql中内置的函数,截止的Flink 版本为1.17。1)value1 ... Raeflink系列2023-08-011778 阅读0 评论
热文Flink Sql开发系列(八)Flink Sql开发常用的建表语句模板 在flink sql开发中,我们必然会涉及到创建表的步骤,所以本文的话,我们介绍一些常用的建表语句模板。1)flink sql 创建kafka的表这里就是相当于with后面跟kafka,可以从kafka里面读取数据,... Raeflink系列2023-08-011416 阅读0 评论