随着计算机技术和移动互联网的高速发展,产生的数据量呈现急剧增长的趋势。为了存储和处理由此产生的海量数据,分布式系统和分布式数据库随之产生。然而,在加速存储和处理的同时,分布式也带来了更多的数据质量问题。现有的多副本数据的时效性判断的方法都存在着明显的弊端。
本方法具有客观性,且无需找到分布式机器之间的强关联关系,便可实现数据时效性的有效判断,提高了多副本数据的时效性判断的准确率。
本发明实施例申请提供一种多副本数据的时效性判断方法及装置,该方法包括:获取当前时刻的k个相互邻近的历史时刻的副本,并计算每两个相邻副本的时间差值和数据差值,以及当前时刻和最近副本的时间差值;将所有时间差值和数据差值,输入至预设的差值模型,输出当前时刻和最近副本的数据差值预测结果;若所述预测结果小于预设阈值,则判断所述最近副本具备时效性;其中,所述差值模型,根据具有时效性的两两相邻的k个时间差值和数据差值样本,进行训练后得到。
天谋科技由 Apache IoTDB 核心团队创立,团队聚焦大数据底层技术软件研发,针对企业组建物联网大数据平台时所遇到的数据体量大、采样频率高、数据乱序到达、分析需求多、存储与运维成本高等多种问题,为企业提供海量时序数据管理的高效解决方案。创始团队由 Apache(国际最大开源软件基金会)旗下 IoTDB、PLC4X 两大开源物联网项目的发起人和核心开发者组成,汇集了来自清华大学、UC Berkeley、微软、德国弗劳恩霍夫协会(Fraunhofer-Gesellschaft)、德国法兰克福能源集团等一批数据库核心技术科学家和工业资深专家,拥有十几年研究和服务工业用户的经验。在时序数据管理领域,团队成员拥有中国、美国、欧洲等发明专利30余项,并在 ICDE, SIGMOD, VLDB 等数据库顶级会议上发表论文多篇。
评价单位:“科创中国”开源产业科技服务团 (中国通信学会)
评价时间:2022-11-18
综合评价
该成果对于物联网工业场景下,企业如何更好的管理由工业场景产生的时序数据有一定的引领性作用,技术创新性很强,目标市场处于成长市场,发展空间大。
查看更多>