本函数用于时间戳修复。根据给定的标准时间间隔,采用最小化修复代价的方法,通过对数据时间戳的微调,将原本时间戳间隔不稳定的数据修复为严格等间隔的数据。在未给定标准时间间隔的情况下,本函数将使用时间间隔的中位数 (median)、众数 (mode) 或聚类中心 (cluster) 来推算标准时间间隔。
函数名: TIMESTAMPREPAIR
输入序列: 仅支持单个输入序列,类型为 INT32 / INT64 / FLOAT / DOUBLE
参数:
interval: 标准时间间隔(单位是毫秒),是一个正整数。在缺省情况下,将根据指定的方法推算。method:推算标准时间间隔的方法,取值为 ‘median’, ‘mode’ 或 ‘cluster’,仅在interval缺省时有效。在缺省情况下,将使用中位数方法进行推算。输出序列: 输出单个序列,类型与输入序列相同。该序列是修复后的输入序列。
在给定interval参数的情况下,本函数将按照指定的标准时间间隔进行修复。
输入序列:
+-----------------------------+---------------+ | Time|root.test.d2.s1| +-----------------------------+---------------+ |2021-07-01T12:00:00.000+08:00| 1.0| |2021-07-01T12:00:10.000+08:00| 2.0| |2021-07-01T12:00:19.000+08:00| 3.0| |2021-07-01T12:00:30.000+08:00| 4.0| |2021-07-01T12:00:40.000+08:00| 5.0| |2021-07-01T12:00:50.000+08:00| 6.0| |2021-07-01T12:01:01.000+08:00| 7.0| |2021-07-01T12:01:11.000+08:00| 8.0| |2021-07-01T12:01:21.000+08:00| 9.0| |2021-07-01T12:01:31.000+08:00| 10.0| +-----------------------------+---------------+
用于查询的SQL语句:
select timestamprepair(s1,'interval'='10000') from root.test.d2
输出序列:
+-----------------------------+----------------------------------------------------+ | Time|timestamprepair(root.test.d2.s1, "interval"="10000")| +-----------------------------+----------------------------------------------------+ |2021-07-01T12:00:00.000+08:00| 1.0| |2021-07-01T12:00:10.000+08:00| 2.0| |2021-07-01T12:00:20.000+08:00| 3.0| |2021-07-01T12:00:30.000+08:00| 4.0| |2021-07-01T12:00:40.000+08:00| 5.0| |2021-07-01T12:00:50.000+08:00| 6.0| |2021-07-01T12:01:00.000+08:00| 7.0| |2021-07-01T12:01:10.000+08:00| 8.0| |2021-07-01T12:01:20.000+08:00| 9.0| |2021-07-01T12:01:30.000+08:00| 10.0| +-----------------------------+----------------------------------------------------+
如果interval参数没有给定,本函数将按照推算的标准时间间隔进行修复。
输入序列同上,用于查询的 SQL 语句如下:
select timestamprepair(s1) from root.test.d2
输出序列:
+-----------------------------+--------------------------------+ | Time|timestamprepair(root.test.d2.s1)| +-----------------------------+--------------------------------+ |2021-07-01T12:00:00.000+08:00| 1.0| |2021-07-01T12:00:10.000+08:00| 2.0| |2021-07-01T12:00:20.000+08:00| 3.0| |2021-07-01T12:00:30.000+08:00| 4.0| |2021-07-01T12:00:40.000+08:00| 5.0| |2021-07-01T12:00:50.000+08:00| 6.0| |2021-07-01T12:01:00.000+08:00| 7.0| |2021-07-01T12:01:10.000+08:00| 8.0| |2021-07-01T12:01:20.000+08:00| 9.0| |2021-07-01T12:01:30.000+08:00| 10.0| +-----------------------------+--------------------------------+
函数名: ValueFill
输入序列: 单列时序数据,类型为INT32 / INT64 / FLOAT / DOUBLE
参数:
method: {“mean”, “previous”, “linear”, “likelihood”, “AR”, “MA”, “SCREEN”}, 默认为 “linear”。其中,“mean” 指使用均值填补的方法; “previous" 指使用前值填补方法;“linear" 指使用线性插值填补方法;“likelihood” 为基于速度的正态分布的极大似然估计方法;“AR” 指自回归的填补方法;“MA” 指滑动平均的填补方法;“SCREEN” 指约束填补方法;缺省情况下使用 “linear”。输出序列: 填补后的单维序列。
备注: AR 模型采用 AR(1),时序列需满足自相关条件,否则将输出单个数据点 (0, 0.0).
当method缺省或取值为 ‘linear’ 时,本函数将使用线性插值方法进行填补。
输入序列:
+-----------------------------+---------------+ | Time|root.test.d2.s1| +-----------------------------+---------------+ |2020-01-01T00:00:02.000+08:00| NaN| |2020-01-01T00:00:03.000+08:00| 101.0| |2020-01-01T00:00:04.000+08:00| 102.0| |2020-01-01T00:00:06.000+08:00| 104.0| |2020-01-01T00:00:08.000+08:00| 126.0| |2020-01-01T00:00:10.000+08:00| 108.0| |2020-01-01T00:00:14.000+08:00| NaN| |2020-01-01T00:00:15.000+08:00| 113.0| |2020-01-01T00:00:16.000+08:00| 114.0| |2020-01-01T00:00:18.000+08:00| 116.0| |2020-01-01T00:00:20.000+08:00| NaN| |2020-01-01T00:00:22.000+08:00| NaN| |2020-01-01T00:00:26.000+08:00| 124.0| |2020-01-01T00:00:28.000+08:00| 126.0| |2020-01-01T00:00:30.000+08:00| 128.0| +-----------------------------+---------------+
用于查询的 SQL 语句:
select valuefill(s1) from root.test.d2
输出序列:
+-----------------------------+-----------------------+ | Time|valuefill(root.test.d2)| +-----------------------------+-----------------------+ |2020-01-01T00:00:02.000+08:00| NaN| |2020-01-01T00:00:03.000+08:00| 101.0| |2020-01-01T00:00:04.000+08:00| 102.0| |2020-01-01T00:00:06.000+08:00| 104.0| |2020-01-01T00:00:08.000+08:00| 126.0| |2020-01-01T00:00:10.000+08:00| 108.0| |2020-01-01T00:00:14.000+08:00| 108.0| |2020-01-01T00:00:15.000+08:00| 113.0| |2020-01-01T00:00:16.000+08:00| 114.0| |2020-01-01T00:00:18.000+08:00| 116.0| |2020-01-01T00:00:20.000+08:00| 118.7| |2020-01-01T00:00:22.000+08:00| 121.3| |2020-01-01T00:00:26.000+08:00| 124.0| |2020-01-01T00:00:28.000+08:00| 126.0| |2020-01-01T00:00:30.000+08:00| 128.0| +-----------------------------+-----------------------+
当method取值为 ‘previous’ 时,本函数将使前值填补方法进行数值填补。
输入序列同上,用于查询的 SQL 语句如下:
select valuefill(s1,"method"="previous") from root.test.d2
输出序列:
+-----------------------------+-------------------------------------------+ | Time|valuefill(root.test.d2,"method"="previous")| +-----------------------------+-------------------------------------------+ |2020-01-01T00:00:02.000+08:00| NaN| |2020-01-01T00:00:03.000+08:00| 101.0| |2020-01-01T00:00:04.000+08:00| 102.0| |2020-01-01T00:00:06.000+08:00| 104.0| |2020-01-01T00:00:08.000+08:00| 126.0| |2020-01-01T00:00:10.000+08:00| 108.0| |2020-01-01T00:00:14.000+08:00| 110.5| |2020-01-01T00:00:15.000+08:00| 113.0| |2020-01-01T00:00:16.000+08:00| 114.0| |2020-01-01T00:00:18.000+08:00| 116.0| |2020-01-01T00:00:20.000+08:00| 116.0| |2020-01-01T00:00:22.000+08:00| 116.0| |2020-01-01T00:00:26.000+08:00| 124.0| |2020-01-01T00:00:28.000+08:00| 126.0| |2020-01-01T00:00:30.000+08:00| 128.0| +-----------------------------+-------------------------------------------+
本函数用于对时间序列的数值进行修复。目前,本函数支持两种修复方法:Screen 是一种基于速度阈值的方法,在最小改动的前提下使得所有的速度符合阈值要求;LsGreedy 是一种基于速度变化似然的方法,将速度变化建模为高斯分布,并采用贪心算法极大化似然函数。
函数名: VALUEREPAIR
输入序列: 仅支持单个输入序列,类型为 INT32 / INT64 / FLOAT / DOUBLE。
参数:
method:修复时采用的方法,取值为 ‘Screen’ 或 ‘LsGreedy’. 在缺省情况下,使用 Screen 方法进行修复。minSpeed:该参数仅在使用 Screen 方法时有效。当速度小于该值时会被视作数值异常点加以修复。在缺省情况下为中位数减去三倍绝对中位差。maxSpeed:该参数仅在使用 Screen 方法时有效。当速度大于该值时会被视作数值异常点加以修复。在缺省情况下为中位数加上三倍绝对中位差。center:该参数仅在使用 LsGreedy 方法时有效。对速度变化分布建立的高斯模型的中心。在缺省情况下为 0。sigma :该参数仅在使用 LsGreedy 方法时有效。对速度变化分布建立的高斯模型的标准差。在缺省情况下为绝对中位差。输出序列: 输出单个序列,类型与输入序列相同。该序列是修复后的输入序列。
提示: 输入序列中的NaN在修复之前会先进行线性插值填补。
当method缺省或取值为 ‘Screen’ 时,本函数将使用 Screen 方法进行数值修复。
输入序列:
+-----------------------------+---------------+ | Time|root.test.d2.s1| +-----------------------------+---------------+ |2020-01-01T00:00:02.000+08:00| 100.0| |2020-01-01T00:00:03.000+08:00| 101.0| |2020-01-01T00:00:04.000+08:00| 102.0| |2020-01-01T00:00:06.000+08:00| 104.0| |2020-01-01T00:00:08.000+08:00| 126.0| |2020-01-01T00:00:10.000+08:00| 108.0| |2020-01-01T00:00:14.000+08:00| 112.0| |2020-01-01T00:00:15.000+08:00| 113.0| |2020-01-01T00:00:16.000+08:00| 114.0| |2020-01-01T00:00:18.000+08:00| 116.0| |2020-01-01T00:00:20.000+08:00| 118.0| |2020-01-01T00:00:22.000+08:00| 100.0| |2020-01-01T00:00:26.000+08:00| 124.0| |2020-01-01T00:00:28.000+08:00| 126.0| |2020-01-01T00:00:30.000+08:00| NaN| +-----------------------------+---------------+
用于查询的 SQL 语句:
select valuerepair(s1) from root.test.d2
输出序列:
+-----------------------------+----------------------------+ | Time|valuerepair(root.test.d2.s1)| +-----------------------------+----------------------------+ |2020-01-01T00:00:02.000+08:00| 100.0| |2020-01-01T00:00:03.000+08:00| 101.0| |2020-01-01T00:00:04.000+08:00| 102.0| |2020-01-01T00:00:06.000+08:00| 104.0| |2020-01-01T00:00:08.000+08:00| 106.0| |2020-01-01T00:00:10.000+08:00| 108.0| |2020-01-01T00:00:14.000+08:00| 112.0| |2020-01-01T00:00:15.000+08:00| 113.0| |2020-01-01T00:00:16.000+08:00| 114.0| |2020-01-01T00:00:18.000+08:00| 116.0| |2020-01-01T00:00:20.000+08:00| 118.0| |2020-01-01T00:00:22.000+08:00| 120.0| |2020-01-01T00:00:26.000+08:00| 124.0| |2020-01-01T00:00:28.000+08:00| 126.0| |2020-01-01T00:00:30.000+08:00| 128.0| +-----------------------------+----------------------------+
当method取值为 ‘LsGreedy’ 时,本函数将使用 LsGreedy 方法进行数值修复。
输入序列同上,用于查询的 SQL 语句如下:
select valuerepair(s1,'method'='LsGreedy') from root.test.d2
输出序列:
+-----------------------------+-------------------------------------------------+ | Time|valuerepair(root.test.d2.s1, "method"="LsGreedy")| +-----------------------------+-------------------------------------------------+ |2020-01-01T00:00:02.000+08:00| 100.0| |2020-01-01T00:00:03.000+08:00| 101.0| |2020-01-01T00:00:04.000+08:00| 102.0| |2020-01-01T00:00:06.000+08:00| 104.0| |2020-01-01T00:00:08.000+08:00| 106.0| |2020-01-01T00:00:10.000+08:00| 108.0| |2020-01-01T00:00:14.000+08:00| 112.0| |2020-01-01T00:00:15.000+08:00| 113.0| |2020-01-01T00:00:16.000+08:00| 114.0| |2020-01-01T00:00:18.000+08:00| 116.0| |2020-01-01T00:00:20.000+08:00| 118.0| |2020-01-01T00:00:22.000+08:00| 120.0| |2020-01-01T00:00:26.000+08:00| 124.0| |2020-01-01T00:00:28.000+08:00| 126.0| |2020-01-01T00:00:30.000+08:00| 128.0| +-----------------------------+-------------------------------------------------+
本函数实现基于主数据的时间序列数据修复。
**函数名:**MasterRepair
输入序列: 支持多个输入序列,类型为 INT32 / INT64 / FLOAT / DOUBLE。
参数:
omega:算法窗口大小,非负整数(单位为毫秒), 在缺省情况下,算法根据不同时间差下的两个元组距离自动估计该参数。eta:算法距离阈值,正数, 在缺省情况下,算法根据窗口中元组的距离分布自动估计该参数。k:主数据中的近邻数量,正整数, 在缺省情况下,算法根据主数据中的k个近邻的元组距离自动估计该参数。output_column:输出列的序号,默认输出第一列的修复结果。**输出序列:**输出单个序列,类型与输入数据中对应列的类型相同,序列为输入列修复后的结果。
输入序列:
+-----------------------------+------------+------------+------------+------------+------------+------------+ | Time|root.test.t1|root.test.t2|root.test.t3|root.test.m1|root.test.m2|root.test.m3| +-----------------------------+------------+------------+------------+------------+------------+------------+ |2021-07-01T12:00:01.000+08:00| 1704| 1154.55| 0.195| 1704| 1154.55| 0.195| |2021-07-01T12:00:02.000+08:00| 1702| 1152.30| 0.193| 1702| 1152.30| 0.193| |2021-07-01T12:00:03.000+08:00| 1702| 1148.65| 0.192| 1702| 1148.65| 0.192| |2021-07-01T12:00:04.000+08:00| 1701| 1145.20| 0.194| 1701| 1145.20| 0.194| |2021-07-01T12:00:07.000+08:00| 1703| 1150.55| 0.195| 1703| 1150.55| 0.195| |2021-07-01T12:00:08.000+08:00| 1694| 1151.55| 0.193| 1704| 1151.55| 0.193| |2021-07-01T12:01:09.000+08:00| 1705| 1153.55| 0.194| 1705| 1153.55| 0.194| |2021-07-01T12:01:10.000+08:00| 1706| 1152.30| 0.190| 1706| 1152.30| 0.190| +-----------------------------+------------+------------+------------+------------+------------+------------+
用于查询的 SQL 语句:
select MasterRepair(t1,t2,t3,m1,m2,m3) from root.test
输出序列:
+-----------------------------+-------------------------------------------------------------------------------------------+ | Time|MasterRepair(root.test.t1,root.test.t2,root.test.t3,root.test.m1,root.test.m2,root.test.m3)| +-----------------------------+-------------------------------------------------------------------------------------------+ |2021-07-01T12:00:01.000+08:00| 1704| |2021-07-01T12:00:02.000+08:00| 1702| |2021-07-01T12:00:03.000+08:00| 1702| |2021-07-01T12:00:04.000+08:00| 1701| |2021-07-01T12:00:07.000+08:00| 1703| |2021-07-01T12:00:08.000+08:00| 1704| |2021-07-01T12:01:09.000+08:00| 1705| |2021-07-01T12:01:10.000+08:00| 1706| +-----------------------------+-------------------------------------------------------------------------------------------+