期刊文献+
共找到108篇文章
< 1 2 6 >
每页显示 20 50 100
基于分布式文件电力异构数据存储综述 被引量:5
1
作者 张琦 陈艳 +1 位作者 张春平 刘铭 《计算机系统应用》 2017年第2期30-36,共7页
随着国网公司信息化建设的不断推进,在整个电网的运检和管理的过程中都会产生海量的数据,这些数据中包含各场景产生的视频、图片、传感器数据和一些企业档案信息等非结构(异构)化数据.在面对如此大规模非结构化的数据存储要求时,传统关... 随着国网公司信息化建设的不断推进,在整个电网的运检和管理的过程中都会产生海量的数据,这些数据中包含各场景产生的视频、图片、传感器数据和一些企业档案信息等非结构(异构)化数据.在面对如此大规模非结构化的数据存储要求时,传统关系型数据库已经表现的力不从心了.如何对此类数据进行高效地、廉价地和安全可靠地存储,并且可以快速检索与分析,是当下研究的重要热点课题之一.本文首先分析了电网大数据的产生及特征,然后综述了工业界大数据分布式文件存储技术,最后分析适合国网非结构化数据的分布式文件存储策略. 展开更多
关键词 数据 结构 分布式文件 数据存储
下载PDF
基于分布式文件系统电力大数据存储策略探讨 被引量:5
2
作者 刘铭 陈艳 +2 位作者 吴佳 张春平 张琦 《自动化技术与应用》 2016年第10期70-75,共6页
随着科技的进步和时代的发展,电力行业得到长足的进步。伴随而来的是电网各个环节产生的数据量呈指数级增长,数据类型也从相对简单的结构化数据向非结构化数据转变。同时为响应国家去IOE政策和国网公司提出的集约型倡议,本文从数据的不... 随着科技的进步和时代的发展,电力行业得到长足的进步。伴随而来的是电网各个环节产生的数据量呈指数级增长,数据类型也从相对简单的结构化数据向非结构化数据转变。同时为响应国家去IOE政策和国网公司提出的集约型倡议,本文从数据的不同类型,不同的应用场景出发,对数据存储模式进行了详细的分析研究,推出了一套完整的数据存储和迁移方法 ,为国网大数据存储提供新的思路和模式。 展开更多
关键词 电网大数据 结构数据 分布式文件系统 高端存储
下载PDF
分布式海量空间数据存储结构研究 被引量:1
3
作者 刘小春 《地矿测绘》 2014年第1期16-18,22,共4页
目前在分布式海量存储中越来越多的使用键/值存储模型,为此比较了Google Earth键/值存储模型和对象关系数据库存储模型。对象关系数据库以其使用简单,容易共享等特性,在许多实际应用中还有其独特的优势,由于键/值存储模型在可伸缩性等... 目前在分布式海量存储中越来越多的使用键/值存储模型,为此比较了Google Earth键/值存储模型和对象关系数据库存储模型。对象关系数据库以其使用简单,容易共享等特性,在许多实际应用中还有其独特的优势,由于键/值存储模型在可伸缩性等方面的优势,在分布式海量数据存储中应用越来越广泛。 展开更多
关键词 BIGTABLE 对象关系数据 存储结构 分布式海量存储
下载PDF
智能电网海量非结构化数据分布式存储研究 被引量:8
4
作者 马海鑫 余杰文 +2 位作者 侯剑 韩吉安 宋学清 《电子设计工程》 2023年第11期116-119,124,共5页
为了加快非结构化电网数据存储的译码速率,从而促进电网主机分布式存储能力的提升,提出智能电网海量非结构化数据分布式存储方法。定义MongoDB数据格式的方法,对电网信息实施复制处理,联合分布式存储架构完成智能电网海量非结构化数据... 为了加快非结构化电网数据存储的译码速率,从而促进电网主机分布式存储能力的提升,提出智能电网海量非结构化数据分布式存储方法。定义MongoDB数据格式的方法,对电网信息实施复制处理,联合分布式存储架构完成智能电网海量非结构化数据库搭建。在此基础上,分析电网数据的特性能力,通过信息增删排查的方式,确定最终的分布式查询语句,搭建智能电网海量非结构化数据分布式存储模型,实现数据的分布式存储。与局部修复型存储编码方法相比,在分布式存储模型作用下,电网主机的存储译码速率最大值能够达到54.5 MB/s,可在实现非结构化电网数据快速转码的同时,提升电网主机分布式存储能力。 展开更多
关键词 智能电网 结构数据 分布式存储 MongoDB格式 信息增删 查询语句
下载PDF
基于存储结构重配置的分布式存储系统节能算法 被引量:40
5
作者 廖彬 于炯 +1 位作者 孙华 年梅 《计算机研究与发展》 EI CSCD 北大核心 2013年第1期3-18,共16页
作为云计算底层核心基础设施,分布式数据存储系统是各种云计算服务的基础,是云计算重要的组成部分.然而随着系统规模的不断扩大以及设计时对能耗因素的忽略使其暴露出高能耗问题.由于存在数据可用性要求,使其并不能简单采用已有节能技... 作为云计算底层核心基础设施,分布式数据存储系统是各种云计算服务的基础,是云计算重要的组成部分.然而随着系统规模的不断扩大以及设计时对能耗因素的忽略使其暴露出高能耗问题.由于存在数据可用性要求,使其并不能简单采用已有节能技术解决能耗问题,保证数据可用性成为设计分布式存储系统节能算法的前提.对系统与数据的可用性进行了建模,并通过对存储结构与机制、节点状态与数据块可用性之间的关系的研究提出构造数据块可用性度量矩阵解决数据可用性完全覆盖问题.定义了分布式存储系统的节能模型,将RACK划分为Active-Zone与Sleep-Zone两个存储区域,根据不同数据的访问频率与规律计算活动因子以配置数据的存储区域,通过数据中心负载规律适时对Sleep-Zone区域中的服务器进行休眠处理以达到节能的目的.实验结果表明:算法在适应数据访问规律与可用性保证前提下,能够提高分布式存储系统的能耗利用率,并且当系统负载与数据平均活动因子越低时算法节能效率越高. 展开更多
关键词 云计算 分布式存储系统 节能计算 存储结构重配置 数据可用性覆盖
下载PDF
分布式电力大数据存储系统参数优化方法 被引量:2
6
作者 梁雪青 杜舒明 +1 位作者 赵小凡 刘超 《电子设计工程》 2023年第10期101-105,共5页
为防止分布式电网负荷有功功率出现混乱波动的变化情况,解决电力大数据的不均衡存储问题,提出分布式电力大数据存储系统的参数优化方法。根据Zookkeeper数据协调服务的传输请求,将HBase数据库主机接入至Spark分布式框架的固定单元结构中... 为防止分布式电网负荷有功功率出现混乱波动的变化情况,解决电力大数据的不均衡存储问题,提出分布式电力大数据存储系统的参数优化方法。根据Zookkeeper数据协调服务的传输请求,将HBase数据库主机接入至Spark分布式框架的固定单元结构中,完成分布式电力大数据的存储系统构建。在此基础上处理处于传输状态的电力大数据,通过建立关联系数查询标准的方式,得到最终的优化特征提取结果,实现分布式电力大数据存储系统参数优化方法的顺利应用。实例分析结果表明,分布式优化方法可将电网负荷有功功率的波动变化范围限制在既定数值区间之内,更符合均衡存储电力大数据的实际应用需求。 展开更多
关键词 电力数据 存储系统 参数优化 分布式框架 数据协调服务 关联系数
下载PDF
基于MapReduce模型的非结构化数据分布式存储方法 被引量:5
7
作者 梁雪青 杜舒明 《微型电脑应用》 2022年第7期106-109,共4页
为了解决传统数据存储方法存在的内存消耗过大、读取效率低等多种问题,提出了基于MapReduce模型的非结构化数据分布式存储方法。设计了非结构化数据垂直分片与水平分片方案,并采用聚类算法对分片处理后的非结构化数据进行聚簇处理,在此... 为了解决传统数据存储方法存在的内存消耗过大、读取效率低等多种问题,提出了基于MapReduce模型的非结构化数据分布式存储方法。设计了非结构化数据垂直分片与水平分片方案,并采用聚类算法对分片处理后的非结构化数据进行聚簇处理,在此基础上构建用于数据分布式存储的MapReduce模型,得到非结构化数据分布式存储结果。实验测试结果表明,与传统非结构化数据存储方法相比,研究方法的内存消耗更小、写入量更大、读取效率更高、访问频率动态调节性能好,由此证明该方法的存储性能更优越,实际应用效果更好。 展开更多
关键词 人工智能 结构数据 分布式存储 存储消耗
下载PDF
LPCA——分布式存储中的数据分离算法 被引量:14
8
作者 张薇 马建峰 《系统工程与电子技术》 EI CSCD 北大核心 2007年第3期453-458,共6页
针对数据密集型的存储系统,提出了一种可靠而高效的数据分离算法,可应用于对可生存性要求较高的分布式存储系统。该算法利用线性方法分离数据,存储量和运算量都较小。设原始数据为D,则每个存储节点上保存的数据量是(|D|+a)/r,r为恢复数... 针对数据密集型的存储系统,提出了一种可靠而高效的数据分离算法,可应用于对可生存性要求较高的分布式存储系统。该算法利用线性方法分离数据,存储量和运算量都较小。设原始数据为D,则每个存储节点上保存的数据量是(|D|+a)/r,r为恢复数据所需要的最少份额数,a<|D|/r。算法中所有的运算均在有限域F2上进行,具有较高的效率。讨论了算法的可操作性及安全性,对存取结构数量进行了分析,并给出了存取结构的一种构造方法。 展开更多
关键词 计算机信息管理系统 存储系统的可生存性 数据分离 分布式存储 存取结构
下载PDF
基于一致性哈希算法的电力企业分布式数据存储研究 被引量:4
9
作者 曹熙 《长江信息通信》 2022年第6期147-149,共3页
由于电力企业存储数据量比较大,传统方法在电力企业分布式数据存储应用中无法保证电力企业数据的完整性和有效性,存在数据丢失量较大的问题,并且数据存储延迟时间比较长,存储速度比较慢,为此提出基于一致性哈希算法的电力企业分布式数... 由于电力企业存储数据量比较大,传统方法在电力企业分布式数据存储应用中无法保证电力企业数据的完整性和有效性,存在数据丢失量较大的问题,并且数据存储延迟时间比较长,存储速度比较慢,为此提出基于一致性哈希算法的电力企业分布式数据存储研究。将电力企业数据相应的时间标签当做是分布式数据存储的一个核心属性,根据数据时间标签对数据进行等价线序划分;利用一致性哈希算法计算数据哈希值和节点计算能力,将其作为依据将电力企业数据分组到相应节点上;利用存储模块构建电力企业分布式数据存储组织结构,并设计分布式数据存储逻辑结构,利用电力企业元信息表、参数元信息表以及索引表对电力企业数据进行分布式存储,以此实现了基于一致性哈希算法的电力企业分布式数据存储。经实验证明,设计方法存储数据延迟时间小于传统方法,而且数据丢失量小于传统方法,能够有效确保电力企业数据的完整性。 展开更多
关键词 一致性哈希算法 电力企业 分布式 数据存储 Swift模块
下载PDF
分布式技术在电力大数据高性能处理中的应用 被引量:24
10
作者 衡星辰 周力 《电力信息与通信技术》 2013年第9期40-43,共4页
随着中国电力工业步入"大数据时代",大数据在电力生产运行和经营管理中的应用需求日益凸显。为解决当前电力大数据在存储和计算方面存在的性能瓶颈,提升电力业务系统应对大数据的支撑能力,提出基于分布式技术的电力大数据存... 随着中国电力工业步入"大数据时代",大数据在电力生产运行和经营管理中的应用需求日益凸显。为解决当前电力大数据在存储和计算方面存在的性能瓶颈,提升电力业务系统应对大数据的支撑能力,提出基于分布式技术的电力大数据存储和计算解决方案。利用基于Hadoop架构的分布式并行计算平台,完成对传统关系数据库平台的优化改造,在电网典型业务场景中的性能测试结果证明了方案的可行性和性能优势。 展开更多
关键词 电力数据 智能化电网 分布式存储 并行计算
下载PDF
分布式变电站监控系统数据库结构的研究 被引量:7
11
作者 王兆峰 孙雅明 《电力系统自动化》 EI CSCD 北大核心 2003年第3期64-67,71,共5页
在分析分布式结构变电站自动化系统硬件结构的特点及其相互关系的基础上 ,提出了适合于分布式结构变电站和电力调度监控系统的新型数据库结构——面向对象 (设备间隔单元 )的数据库结构 ,它与 RTU模式变电站监控系统数据库结构比较 ,表... 在分析分布式结构变电站自动化系统硬件结构的特点及其相互关系的基础上 ,提出了适合于分布式结构变电站和电力调度监控系统的新型数据库结构——面向对象 (设备间隔单元 )的数据库结构 ,它与 RTU模式变电站监控系统数据库结构比较 ,表明其数据操作具有较高的可靠性和快速性 ,并讨论了其对调度监控系统的影响及对远动协议的改革建议。 展开更多
关键词 分布式变电站 监控系统 数据结构 面向对象 自动化系统 电力系统
下载PDF
大规模非结构化数据的分布式存储方法 被引量:3
12
作者 朴承哲 《太原师范学院学报(自然科学版)》 2021年第3期57-61,共5页
为了提高大规模非结构化数据的分布式存储能力,提出基于空间网格聚类的大规模非结构化数据分布式存储方法.构建大规模非结构化数据多维空间分布式融合模型,采用模糊中心权重聚类的方法进行数据的线性加权控制处理,通过样本扩展和密度融... 为了提高大规模非结构化数据的分布式存储能力,提出基于空间网格聚类的大规模非结构化数据分布式存储方法.构建大规模非结构化数据多维空间分布式融合模型,采用模糊中心权重聚类的方法进行数据的线性加权控制处理,通过样本扩展和密度融合的方法提取数据特征,采用选择随机性特征分析方法实现对数据特征空间划分,并利用空间网格聚类方法实现大规模非结构化数据分布式存储.仿真结果表明,该方法的执行时间较短,数据聚类准确性较高.该方法有效提高了大规模非结构化数据分布式存储性能,实际应用效果好. 展开更多
关键词 大规模数据 结构数据 分布式存储 网格聚类
下载PDF
变电站历史数据分布式存储系统设计与实现 被引量:4
13
作者 任浩 闫卫国 +2 位作者 王强 陈建 郭凌旭 《电气自动化》 2019年第4期83-85,共3页
目前,变电站接入的数据类型越来越多,存在存储分散,结构和访问方式差异大,以及没有建立统一的存储和访问接口等问题。针对以上问题,提出一种基于Key-Value非关系型数据库的"Redis代理机+SSDB存储集群"的变电站历史数据分布式... 目前,变电站接入的数据类型越来越多,存在存储分散,结构和访问方式差异大,以及没有建立统一的存储和访问接口等问题。针对以上问题,提出一种基于Key-Value非关系型数据库的"Redis代理机+SSDB存储集群"的变电站历史数据分布式存储的实现方式,包括Redis代理服务器和SSDB存储集群,在代理服务器端通过历史数据统一导入工具,将不同厂家的变电站SCADA历史数据和非结构化历史数据统一存储在Key-Value网络化缓存库中,再通过代理服务程序,采用一致性哈希分片算法将其分布式转存至存储集群中,对于存储集群的每个存储子机通过LevelDB存储引擎将缓存数据存入磁盘文件中,实现对历史数据的分布式永久性存储。经实验室测试证明,开发出的变电站历史数据分布式存储系统的功能需求和性能指标完全达到预期目标。 展开更多
关键词 非关系型数据 结构数据 REDIS SSDB 分布式存储
下载PDF
数字图书馆大数据分布式存储架构模式与策略研究 被引量:5
14
作者 马晓亭 《新世纪图书馆》 CSSCI 2015年第5期43-46,共4页
数字图书馆传统的关系数据库数据存储方式已不能满足大数据存储与处理需求,为解决传统关系型数据库在海量数据存储和访问效率中的瓶颈问题,论文提出了一种数字图书馆安全、有效的大数据公布式存储架构。该存储架构具有良好的可扩展性、... 数字图书馆传统的关系数据库数据存储方式已不能满足大数据存储与处理需求,为解决传统关系型数据库在海量数据存储和访问效率中的瓶颈问题,论文提出了一种数字图书馆安全、有效的大数据公布式存储架构。该存储架构具有良好的可扩展性、容错性和存储性能,尤其针对海量的非结构化、半结构化数据,其性能优势更加明显。 展开更多
关键词 数字图书馆 数据 海量数据存储 分布式存储架构 结构数据 结构数据
下载PDF
铀矿勘查数据湖分布式存储和计算系统构建 被引量:2
15
作者 孙远强 蔡煜琦 +2 位作者 李晓翠 孙雨鑫 金鑫裕 《数字技术与应用》 2023年第1期129-135,共7页
本文在梳理和分析当前主流数据湖大数据平台技术体系构成的基础上,根据铀矿勘查数据来源、数据类型、数据结构等特征,选择Postgre SQL(关系型数据库)+Mongo DB(非结构化数据库)+Ceph(存储组件)+Kafka(消息队列)+Spark(计算组件)等搭建... 本文在梳理和分析当前主流数据湖大数据平台技术体系构成的基础上,根据铀矿勘查数据来源、数据类型、数据结构等特征,选择Postgre SQL(关系型数据库)+Mongo DB(非结构化数据库)+Ceph(存储组件)+Kafka(消息队列)+Spark(计算组件)等搭建铀矿勘查数据湖大数据技术平台。该平台即适用于地震、电磁、重力等体量巨大,又适用于地质图件、钻孔数据、化验分析测试等多源异构数据的存储;Spark计算引擎即可以处理离线数据又可以处理实时流数据的分析,满足钻孔数据分析,物化探数据反演,遥感蚀变提取,成矿预测分析及钻探进尺统计等勘查业务的应用。 展开更多
关键词 铀矿勘查 钻孔数据 地质图件 成矿预测 分布式存储 关系型数据 数据结构 消息队列
下载PDF
分布式工程数据库的体系结构研究 被引量:1
16
作者 陈积光 《广西民族学院学报(自然科学版)》 CAS 2001年第1期35-37,共3页
从基本的工程数据库的多库存储结构出发 。
关键词 工程数据 体系结构 扩展客户/服务器 多库存储结构 分布式数据 映射机制
下载PDF
面向电力大数据分布式云存储的性能研究与优化分析
17
作者 汤朝波 《电子世界》 2015年第24期37-37,39,共2页
随着经济的快速发展,我国的电力工业逐步进入到"电力大数据时代"。在云储存系统之中,电力数据呈现出大数据散布的状态,电力大数据在电力工业的经营管理与生产运行中受到了越来越多的应用。电力调度系统通过是运用多种通信方... 随着经济的快速发展,我国的电力工业逐步进入到"电力大数据时代"。在云储存系统之中,电力数据呈现出大数据散布的状态,电力大数据在电力工业的经营管理与生产运行中受到了越来越多的应用。电力调度系统通过是运用多种通信方式对各种信息进行传送与处理。由于数据分布和云存储节点在城市的电力调度中有着自组织、非均匀的特点,使电力大数据降低了调度效率,从而导致云存储冗余状况出现,所以,需要对电力大数据分布式云存储的性能进行优化。本文着力于研究面向电力大数据分布式云存储的性能分析与优化。 展开更多
关键词 电力数据 分布式 存储 性能分析 性能优化
下载PDF
基于图数据库的RDF数据分布式存储 被引量:12
18
作者 项灵辉 顾进广 吴钢 《计算机应用与软件》 CSCD 北大核心 2014年第11期35-39,共5页
RDF数据模型具有天然的图结构,因此以图结构存储可以避免RDF逻辑数据模型到物理数据模型的转换。基于图数据库的RDF数据分布式存储方案,重点讨论RDF图数据流分割、图数据库分布式扩展、SPARQL查询语言转CYPHER图形查询语言等。实验对比... RDF数据模型具有天然的图结构,因此以图结构存储可以避免RDF逻辑数据模型到物理数据模型的转换。基于图数据库的RDF数据分布式存储方案,重点讨论RDF图数据流分割、图数据库分布式扩展、SPARQL查询语言转CYPHER图形查询语言等。实验对比了基于Neo4j图数据库与基于MySQL关系型数据库的RDF数据存储方案的处理性能,并验证了RDF图数据流分割算法的有效性。 展开更多
关键词 结构 数据 数据流分割 分布式存储 图形查询语言
下载PDF
基于分布式存储的多类型数据管理技术研究 被引量:7
19
作者 饶玮 周爱华 +2 位作者 常涛 谢若承 蒋静 《电力信息与通信技术》 2016年第5期76-81,共6页
文章针对大量非结构化数据密集型的应用,提出一个高性能、高可用、高可伸缩、易管理、安全的分布式云存储解决方案,能够解决大规模存储问题,集成了多类型数据的分布式高速存储结构、一体化的数据访问与管理、按需服务的智能分级存储等技... 文章针对大量非结构化数据密集型的应用,提出一个高性能、高可用、高可伸缩、易管理、安全的分布式云存储解决方案,能够解决大规模存储问题,集成了多类型数据的分布式高速存储结构、一体化的数据访问与管理、按需服务的智能分级存储等技术,同时能够与现有的集中式存储架构相融合,充分利用企业现有的各类存储型服务器,提供基于x86服务器集群的数据存储支撑服务,实现大数据环境下的多类型数据的集成与组织功能、海量数据的分布式存储和容错备份机制,以及面向上层应用的数据高速访问和检索功能。 展开更多
关键词 分布式文件系统 云计算 存储 数据管理 结构数据
下载PDF
上一页 1 2 6 下一页 到第
使用帮助 返回顶部