king71 发表于 2019-2-19 10:47:08

大数据:Windows下配置flink的Stream

  对于开发人员来说,最希望的是需要在windows中进行测试,然后把调试好的程序放在集群中运行。下面写一个Socket,上面是监控本地的一个运行端口,来实时的提取数据。获取视频中文档资料及完整视频的伙伴请加QQ群:947967114
  下面是一段代码:
  import org.apache.flink.api.java.utils.ParameterToolimport org.apache.flink.streaming.api.scala._import org.apache.flink.streaming.api.windowing.time.Timeobject SocketWindowWordCount {def main(args: Array): Unit = {    valport:Int=try{      ParameterTool.fromArgs(args).getInt("port")    }    catch{      case e:Exception=>{      System.out.print("Noport spacified.Please run 'SocketWindowWordCount'")      return      }}    val env:StreamExecutionEnvironment=StreamExecutionEnvironment.getExecutionEnvironment    val text=env.socketTextStream("localhost",port,'\n')    val windowWordCount=text.flatMap{w=>w.split("\s+")}.map{w=>WordWithCount(w,1)}.      keyBy("word").timeWindow(Time.seconds(5),Time.seconds(1)).sum("count")    windowWordCount.print().setParallelism(1)    env.execute("Socket Window WordCount")   }}case class WordWithCount(word: String, count: Long){}
  这个程序有几个需要注意的。第一个org.apache.flink.streaming.api.windowing.time.Time是这个时间包的使用。第二个是org.apache.flink.streaming.api.scala._,不要直接引入org.apache.flink.streaming.api.scala.StreamExecutionEnvironment。
http://i2.运维网.com/images/blog/201811/26/929c33e1727d115b30e3eabb03164dd8.png
  配置windows的nc端口,在网上下载nc.exe(https://eternallybored.org/misc/netcat/)
  选择版本:解压放在一个指定的目录上。然后在cmd环境中进入到这个目录。获取视频中文档资料及完整视频的伙伴请加QQ群:947967114
http://i2.运维网.com/images/blog/201811/26/279c16af783fc00679df756857527ada.png
  使用命令开始nc制定端口为9000(nc -L -p 9000 -v)
http://i2.运维网.com/images/blog/201811/26/3bde0b3b9586ed2f8824ac393348c096.png
  在IDEA中设置输入参数:
http://i2.运维网.com/images/blog/201811/26/9147fe7ae83c965013b4e12c64496c12.png
  指定端口--port 9000,然后运行
http://i2.运维网.com/images/blog/201811/26/af50becb09f409a7f95a0d78ea20a384.png
  Cmd端口中输入数据,在flink中可以看到实时的云运算结果:
http://i2.运维网.com/images/blog/201811/26/8be8838fea6759446de7255c1340220e.png
  至此,flink在windows中的一个stream配置完成。获取视频中文档资料及完整视频的伙伴请加QQ群:947967114



页: [1]
查看完整版本: 大数据:Windows下配置flink的Stream