MySQL Flink Watermark实现事件时间处理的关键技术

 更新时间:2023年05月09日 09:44:46   作者:奔跑如风  
Flink Watermark是Flink流处理框架中实现事件时间处理的关键技术之一。它是通过一种机制来解决数据乱序和延迟的问题,使得Flink可以在处理迟到的数据时保证结果的准确性。Flink Watermark可以在数据流中插入一个时间戳,将数据流转化为具有时间维度的数据集合

1.概述

生活中有种场景:

车辆进入隧道,信号不好,出了隧道后,信号就正常了。

正常情况下,车辆进入隧道后,如果车辆正常,没有事故,会正常驶出隧道。

在正常的隧道行驶过程中,可能会因为信号的原因,导致数据没有像信号正常的时候那么快到达。

也就是说,这种情况下,数据出现了延迟。我们把这种延迟数据称之为迟到数据。

生活中,这种场景非常多,比如:车辆进入地下车库,手机欠费,网络抖动等。这都属于生活的正常情况。无法避免。

程序中,一般不会允许数据丢失。所以,我们程序会推出一些机制来保证迟到数据被正常处理。

Watermark就是用来保证正常迟到的数据被正确的处理。

Watermark,也叫水印,或者是水位线。用来处理一定程度下的延迟数据。

2.SQL案例-演示Watermark为零的情况

#1.创建表
CREATE TABLE source_table ( 
 user_id STRING, 
 price BIGINT,
 `timestamp` bigint,
 row_time AS TO_TIMESTAMP(FROM_UNIXTIME(`timestamp`)),
 watermark for row_time as row_time - interval '0' second
) WITH (
  'connector' = 'socket',
  'hostname' = 'node1', 
  'port' = '9999',
  'format' = 'csv'
);
#2.数据查询SQL
select 
user_id,
count(*) as pv,
sum(price) as sum_price,
UNIX_TIMESTAMP(CAST(tumble_start(row_time, interval '5' second) AS STRING)) * 1000  as window_start,
UNIX_TIMESTAMP(CAST(tumble_end(row_time, interval '5' second) AS STRING)) * 1000  as window_end
from source_table
group by
    user_id,
    tumble(row_time, interval '5' second);

3.SQL案例-演示Watermark不为零的情况

Watermark不为零,就有可能是两种情况:

  • 小于0,窗口会提前触发计算,这种情况在实际应用不存在,所以这里也不讨论
  • 大于0,窗口会延迟触发计算,延迟的时间就是我们设置的Watermark的值

这里,我们主要是讨论Watermark>0的情况。

#1.创建表
CREATE TABLE source_table ( 
 user_id STRING, 
 price BIGINT,
 `timestamp` bigint,
 row_time AS TO_TIMESTAMP(FROM_UNIXTIME(`timestamp`)),
 watermark for row_time as row_time - interval '2' second
) WITH (
  'connector' = 'socket',
  'hostname' = 'node1', 
  'port' = '9999',
  'format' = 'csv'
);
#2.Watermark的解释
WATERMARK FOR ts AS ts - INTERVAL '2' SECOND
这里的2,表示,数据允许延迟2秒钟到达,窗口会在(正常结束+延迟时间)后触发计算
#3.查询SQL
select 
user_id,
count(*) as pv,
sum(price) as sum_price,
UNIX_TIMESTAMP(CAST(tumble_start(row_time, interval '5' second) AS STRING)) * 1000  as window_start,
UNIX_TIMESTAMP(CAST(tumble_end(row_time, interval '5' second) AS STRING)) * 1000  as window_end
from source_table
group by
    user_id,
    tumble(row_time, interval '5' second);

到此这篇关于MySQL Flink Watermark实现事件时间处理的关键技术的文章就介绍到这了,更多相关MySQL Flink Watermark内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • 在windows环境下配置并随意切换两种mysql版本的方法

    在windows环境下配置并随意切换两种mysql版本的方法

    这篇文章主要介绍了mysql:如何在windows环境下配置并随意切换两种mysql版本,本文通过图文并茂的形式给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2023-01-01
  • 简单谈谈Mysql索引与redis跳表

    简单谈谈Mysql索引与redis跳表

    这篇文章主要给大家介绍了Mysql索引与redis跳表的相关资料,文中介绍的非常详细,对大家学习或者使用Mysql和redis具有一定的参考学习价值,需要的朋友们下面来一起学习学习吧
    2019-04-04
  • Centos MySQL 5.7安装、升级教程

    Centos MySQL 5.7安装、升级教程

    这篇文章主要为大家详细介绍了Centos MySQL 5.7安装、升级教程,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2017-01-01
  • MySQL架构体系知识点总结

    MySQL架构体系知识点总结

    在本篇内容里我们给大家整理了关于MySQL架构体系的相关知识点内容以及相关实例,需要的朋友们学习下。
    2019-02-02
  • MYSQL常见出错代码对照

    MYSQL常见出错代码对照

    MYSQL常见出错代码对照...
    2007-07-07
  • SQL实战演练之网上商城数据库用户信息数据操作

    SQL实战演练之网上商城数据库用户信息数据操作

    一直认为,扎实的SQL功底是一名数据分析师的安身立命之本,甚至可以称得上是所有数据从业者的基本功。当然,这里的SQL绝不单单是写几条查询语句那么简单,接下来请跟着小编通过案例项目进一步提高SQL的能力吧
    2021-10-10
  • 深入分析MySQL 的备份和恢复机制

    深入分析MySQL 的备份和恢复机制

    备份对于数据库来说是相当重要的工作。如果数据库在使用过程中出现了问题,比如系统崩溃、硬件故障或错误的删除了数据。这时,如果我们进行了数据备份,就能比较方便的使数据库恢复工作,并使我们的数据损失到最小。下面我们来详细探讨下数据库的备份与恢复。
    2016-11-11
  • MySQL优化之Index Merge的使用

    MySQL优化之Index Merge的使用

    本文主要介绍了MySQL优化之Index Merge的使用,文中通过示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2022-03-03
  • 如何捕获和记录SQL Server中发生的死锁

    如何捕获和记录SQL Server中发生的死锁

    本篇文章是对如何捕获和记录SQL Server中发生的死锁进行了详细的分析介绍,需要的朋友参考下
    2013-06-06
  • MySql用DATE_FORMAT截取DateTime字段的日期值

    MySql用DATE_FORMAT截取DateTime字段的日期值

    MySql截取DateTime字段的日期值可以使用DATE_FORMAT来格式化,使用方法如下
    2014-08-08

最新评论