期刊文献+
共找到137篇文章
< 1 2 7 >
每页显示 20 50 100
面向边缘计算的高效大规模数据处理与存储方案研究
1
作者 曾昭健 谢彦南 《中国科技期刊数据库 工业A》 2023年第8期0013-0016,共4页
本文针对面向边缘计算的大规模数据处理与存储问题,提出了一种高效的架构设计方案。首先,分析了边缘计算环境下的数据处理需求,然后设计了满足这些需求的数据处理架构,并进行了优化。接着,研究了边缘存储技术与方案,包括特点、挑战以及... 本文针对面向边缘计算的大规模数据处理与存储问题,提出了一种高效的架构设计方案。首先,分析了边缘计算环境下的数据处理需求,然后设计了满足这些需求的数据处理架构,并进行了优化。接着,研究了边缘存储技术与方案,包括特点、挑战以及面向边缘计算的大规模数据存储方案。最后,提出了边缘计算数据处理与存储性能优化的方法。旨在探索面向边缘计算的高效大规模数据处理与存储方案,以解决在边缘计算环境下处理和存储大量数据所面临的挑战。 展开更多
关键词 边缘计算 大规模数据处理 存储
下载PDF
云计算环境下大数据的大规模任务处理研究
2
作者 李德刚 王成威 +2 位作者 于振 李广义 王烁寰 《通信电源技术》 2023年第15期109-111,共3页
提出一种基于多目标粒子群的算法,以应对云计算环境下大数据的大规模任务处理造成的挑战。通过引入多域虚拟网络映射方法,在多目标指导下优化任务处理过程。基于帕累托支配理论,采用快速非支配选择方法,为虚拟网络映射问题获取一组最佳... 提出一种基于多目标粒子群的算法,以应对云计算环境下大数据的大规模任务处理造成的挑战。通过引入多域虚拟网络映射方法,在多目标指导下优化任务处理过程。基于帕累托支配理论,采用快速非支配选择方法,为虚拟网络映射问题获取一组最佳解。使用拥挤度比较算法计算获得最佳映射方案,以实现负载均衡,同时减少带宽资源的使用,并降低数据传输成本。引入柯西变异操作,提高算法的收敛速度,从而有效应对大规模任务处理。 展开更多
关键词 大数据 云计算 大规模任务处理
下载PDF
云计算环境下大规模数据处理技术的研究
3
作者 马玲玲 《移动信息》 2023年第6期253-255,258,共4页
随着技术的发展,云计算技术越来越多地被运用到了各个领域。在大规模数据处理技术中引入云计算技术,能够有效推进大规模计算平台的构建,并建立起具有动态变化、可扩展性和高性价比的系统,从而形成一个以云计算环境为基础的大规模数据处... 随着技术的发展,云计算技术越来越多地被运用到了各个领域。在大规模数据处理技术中引入云计算技术,能够有效推进大规模计算平台的构建,并建立起具有动态变化、可扩展性和高性价比的系统,从而形成一个以云计算环境为基础的大规模数据处理与分析系统的结构实体建模。文中论述了在这种情况下,如何进行大规模的数据处理,并建立了相应的计算机平台,最终验证了计算机体系结构的可行性。 展开更多
关键词 云计算环境 大规模数据处理技术 研究
下载PDF
针对高速数据流的大规模数据实时处理方法 被引量:95
4
作者 亓开元 赵卓峰 +1 位作者 房俊 马强 《计算机学报》 EI CSCD 北大核心 2012年第3期477-490,共14页
以实时传感数据和历史感知数据为基础的各类计算需求逐渐成为当前物联网应用建设中的关键,如何实现基于高速数据流和大规模历史数据的实时计算成为数据处理领域的新挑战.现有批处理方式的MapReduce大规模数据处理技术难以满足此类计算... 以实时传感数据和历史感知数据为基础的各类计算需求逐渐成为当前物联网应用建设中的关键,如何实现基于高速数据流和大规模历史数据的实时计算成为数据处理领域的新挑战.现有批处理方式的MapReduce大规模数据处理技术难以满足此类计算的实时要求.文中结合城市车辆数据的实时采集与处理应用,在理论和实践分析的基础上,提出了一种针对高速数据流的大规模数据实时处理方法,并对方法中的本地阶段化流水线、中间结果缓存等关键技术瓶颈进行了改进.其中,根据系统参数控制阶段化流水线,使CPU得到了充分、有效利用;通过改造内外存数据结构、读写策略和替换算法,优化了本地中间结果的高并发读写性能.实验表明,上述方法可以显著提升大规模历史数据上数据流处理的实时性和可伸缩性. 展开更多
关键词 数据流处理 大规模数据处理 MAPREDUCE 物联网 大数据 云计算
下载PDF
云计算模型在铁路大规模数据处理中的应用 被引量:22
5
作者 刘真 刘峰 +2 位作者 张宝鹏 马飞 高石玉 《北京交通大学学报》 CAS CSCD 北大核心 2010年第5期14-19,共6页
对铁路行业的计算资源、数据处理进行了特征分析.探讨了云计算模型中的虚拟化技术在铁路计算资源整合及MapReduce编程模型在大规模数据处理中的应用模式.采用Hadoop开源平台和Intel的虚拟化管理平台Tashi,提出和实现了基于云计算技术的... 对铁路行业的计算资源、数据处理进行了特征分析.探讨了云计算模型中的虚拟化技术在铁路计算资源整合及MapReduce编程模型在大规模数据处理中的应用模式.采用Hadoop开源平台和Intel的虚拟化管理平台Tashi,提出和实现了基于云计算技术的铁路数据处理框架模型,并通过大规模的货票数据处理实例验证了框架模型的可扩展性和高效性. 展开更多
关键词 云计算 虚拟化 MAPREDUCE 大规模数据处理
下载PDF
面向大规模感知数据的实时数据流处理方法及关键技术 被引量:9
6
作者 亓开元 韩燕波 +1 位作者 赵卓峰 马强 《计算机集成制造系统》 EI CSCD 北大核心 2013年第3期641-653,共13页
为了在大规模历史感知数据基础上实现针对高速传感数据流的实时计算,提出一种面向大规模历史数据的数据流处理方法RTMR,通过中间结果缓存、流水化和本地化改进了MapReduce的数据流处理能力。在此基础上,为了适应性地构造RTMR集群,利用... 为了在大规模历史感知数据基础上实现针对高速传感数据流的实时计算,提出一种面向大规模历史数据的数据流处理方法RTMR,通过中间结果缓存、流水化和本地化改进了MapReduce的数据流处理能力。在此基础上,为了适应性地构造RTMR集群,利用模型分析方法根据应用特征和集群环境配置节点类型和拓扑结构。为实现集群的负载均衡,通过计算负载状态转换关系分组空闲节点和过载节点,将NP难的动态负载均衡问题快速分解为规模较小的子问题,并且综合执行时间和数据移动代价作为子问题的优化目标,提高应对负载倾斜的反应速度。实验表明,上述方法和技术能够保障大规模历史数据上数据流处理的可伸缩性。 展开更多
关键词 数据流处理 大规模数据处理 MapReduce方法 适应性架构 负载均衡
下载PDF
云计算环境下的大规模图状数据处理任务调度算法 被引量:15
7
作者 李健 黄庆佳 +1 位作者 刘一阳 苏森 《西安交通大学学报》 EI CAS CSCD 北大核心 2012年第12期116-122,共7页
针对云计算环境下调度算法必须考虑资源租赁成本的问题,提出一种新的基于粒子群优化的大规模图状数据处理任务调度算法(LGPPSO).首先,该算法将图状数据处理任务调度方案编码为粒子群中粒子的位置,并利用任务的调度长度和资源租赁成本建... 针对云计算环境下调度算法必须考虑资源租赁成本的问题,提出一种新的基于粒子群优化的大规模图状数据处理任务调度算法(LGPPSO).首先,该算法将图状数据处理任务调度方案编码为粒子群中粒子的位置,并利用任务的调度长度和资源租赁成本建立适应度函数来评价当前粒子的优劣程度,然后重新定义粒子群的参数和相关操作,最后在算法的每一次迭代过程中,粒子不断更新自身的速度和位置,以获得任务调度的近似最优解.模拟实验结果表明:在仅以调度长度为目标时,LGPPSO算法的调度长度比异构最早完成时间任务调度算法(HEFT)平均降低约12.3%;在以调度长度和资源租赁成本为目标时,与成本感知任务调度算法(CCSH)相比,在资源租赁成本基本一致的情况下,LGPPSO算法的调度长度平均降低约9.97%. 展开更多
关键词 大规模图状数据处理 调度算法 粒子群优化 云计算
下载PDF
关于液体内大规模声处理中空化研究的几点思考——再论声空化工程 被引量:4
8
作者 应崇福 《应用声学》 CSCD 北大核心 2008年第5期333-337,共5页
再次强调了大规模液体中超声处理、以及为此目的研究声空化的重要性。提出了对这项应用中声空化行为的几点思考,重点是关于声空化的"强度"以及关于电动力式和流体动力式两类产生空化系统所产生空化的不同特性。
关键词 大规模液体中超声处理 声空化工程 对空化行为的思考
下载PDF
大规模并行处理机的互连网络初探 被引量:2
9
作者 李文兵 裴伟东 马燕 《天津师大学报(自然科学版)》 2000年第3期51-54,共4页
介绍了互连网络在大规模并行处理机中的重要地位、发展特点 ,分析了各种互连网络的性能 ,最后提出了互连网络有待开发的问题 .
关键词 大规模并行处理 互连网络 拓扑结构
下载PDF
国内外云计算大规模数据处理课程比较研究 被引量:1
10
作者 胡艳丽 赵翔 唐九阳 《科教文汇》 2014年第31期1-2,共2页
本文对国内外知名大学和研究机构开设的云计算/大规模数据处理课程进行比较研究,从授课内容、授课形式等方面深入分析了Google 101计划、华盛顿大学、斯坦福大学以及清华大学、北京大学等相关课程的建设情况,为探索如何培养学生的大数... 本文对国内外知名大学和研究机构开设的云计算/大规模数据处理课程进行比较研究,从授课内容、授课形式等方面深入分析了Google 101计划、华盛顿大学、斯坦福大学以及清华大学、北京大学等相关课程的建设情况,为探索如何培养学生的大数据并行处理和实践能力提供参考和借鉴。 展开更多
关键词 云计算 大规模数据处理 课程建设 比较研究
下载PDF
软件DSM机群上并行大规模地理图像处理系统ParGIP
11
作者 史岗 张福新 +1 位作者 胡伟武 韩承德 《计算机研究与发展》 EI CSCD 北大核心 2003年第1期53-59,共7页
基于共享虚拟存储 (sharedvirtualmemory ,SVM )PC机群的大规模并行地理图像处理原型系统ParGIP(parallelgeographicalimageprocessing)采用Client Server计算模型 ,通过软件分布式共享存储 ①(softwaredistributedsharedmemo ry ,softw... 基于共享虚拟存储 (sharedvirtualmemory ,SVM )PC机群的大规模并行地理图像处理原型系统ParGIP(parallelgeographicalimageprocessing)采用Client Server计算模型 ,通过软件分布式共享存储 ①(softwaredistributedsharedmemo ry ,softwareDSM )中间层将PC机群组织成一个逻辑上共享内存的并行计算平台 ,地理图像处理可以充分利用ParGIP提供的大共享内存和并行处理能力来提高性能 ,缩短处理周期 ,从而解决传统单机串行方式下地理图像处理中内存匮乏和计算能力不足的问题 ParGIP还进一步将机群中各个结点上分布的磁盘组织起来 ,提供地理影像库所需的海量存储空间和并行I/O能力 测试结果表明 :ParGIP的 8机并行I/O带宽达到 10 2 6MB/s 。 展开更多
关键词 并行大规模地理图像处理系统 ParGIP 软件DSM 机群 并行处理 计算机 图像几何配准
下载PDF
关于大规模并行处理机系统可扩展性设计 被引量:2
12
作者 卢锡城 《中国工程科学》 2000年第10期105-109,共5页
大规模并行处理系统旨在满足国防和国民经济许多重要应用领域对高性能计算能力的需求。长期以来 ,结构上的可扩性和编程上的友好性一直是并行计算机系统设计中追求的重要而又互相矛盾的两个目标。文章结合研究实践 ,对大规模并行处理机... 大规模并行处理系统旨在满足国防和国民经济许多重要应用领域对高性能计算能力的需求。长期以来 ,结构上的可扩性和编程上的友好性一直是并行计算机系统设计中追求的重要而又互相矛盾的两个目标。文章结合研究实践 ,对大规模并行处理机系统 (MPP) 展开更多
关键词 体系结构 大规模并行处理 对称多处理 非一致存储访问 可扩展性 设计 并行计算机系统
下载PDF
大规模并行处理技术应用综述 被引量:1
13
作者 王亚刚 杨康平 《电脑知识与技术》 2009年第4X期3298-3299,3302,共3页
大规模并行处理技术是构建高性能计算的重要途径。该文论述了大规模并行处理技术的技术要点,并讨论了该技术在高性能计算机、高性能处理器及高性能系统芯片设计中的应用。
关键词 大规模并行处理 体系结构 高性能计算机 处理 系统芯片
下载PDF
大规模并行处理机的并行程序设计 被引量:1
14
作者 吴景岚 《闽江学院学报》 2003年第2期28-30,共3页
本文根据MPP系统结构的特征,介绍两种适合MPP的消息传递方式的并行程序设计方法,讨论了并行程序设计的优化问题,指出并行程序的优化应从数据划分、通信代化和串行程序优化三个方面着手,并介绍并行程序调试技术和步骤。
关键词 大规模并行处理 并行程序设计 数据并行 功能并行 并行程序 优化 程序调试 串行程序
下载PDF
基于大规模事务处理系统的中间层语义缓存技术的研究 被引量:4
15
作者 向阳 杨树强 +1 位作者 蔡建宇 贾焰 《计算机应用》 CSCD 北大核心 2005年第8期1843-1845,1864,共4页
对当前的中间层语义缓存的研究进行了分析,以一个大规模事务处理系统为背景,提出了一个针对海量数据统计分析的中间层语义缓存解决方案,给出了其相关定义、体系结构及管理机制,并在大规模事务处理系统上对语义缓存进行了测试。
关键词 语义缓存 缓存管理 大规模事务处理系统 统计分析查询
下载PDF
面向大规模地震数据并行处理高速可扩展通信技术应用研究 被引量:1
16
作者 包红林 李敏 +1 位作者 邵志东 张代兰 《石油物探》 CSCD 北大核心 2022年第5期793-800,共8页
随着地震数据规模的不断增大,在进行数据并行处理时,并行计算通信框架因使用TCP(Transmission Control Protocol)协议存在网络吞吐量低、高时延等性能问题,以及主从并行模式下存在主节点网卡性能瓶颈问题,制约了数据并行处理效率的线性... 随着地震数据规模的不断增大,在进行数据并行处理时,并行计算通信框架因使用TCP(Transmission Control Protocol)协议存在网络吞吐量低、高时延等性能问题,以及主从并行模式下存在主节点网卡性能瓶颈问题,制约了数据并行处理效率的线性提升,集群节点规模扩展性下降明显。为此,提出采用RoCE(RDMA over Converged Ethernet)协议替换TCP协议、主节点配置高性能100 GE网卡的高效并行计算通信优化方案,解决了并行计算框架存在的数据网络传输性能问题及主节点同时收集多个计算节点计算结果数据的网络性能瓶颈问题,实现了高速可扩展技术的大规模地震数据处理通信应用方案,计算节点可快速完成数据通信,提升了大规模地震数据处理计算效率;另外采用UCX(Unified Communication X)技术还提升了应用系统的可移植性与使用的便捷性。逆时偏移处理数据的测试结果表明,对于本次大规模数据的处理,逆时偏移并行计算效率提升了32.8%,效果显著,可缩短大规模地震数据逆时偏移计算的时间,并减少计算能源消耗,因此具有很高的实用价值和经济效益。 展开更多
关键词 大规模地震数据处理 逆时偏移处理 并行计算 MPI 通信框架 计算效率 RoCE 100 GE网卡
下载PDF
老挝南欧江六级电站导流洞大规模塌方处理施工技术 被引量:1
17
作者 李成强 《陕西水利》 2015年第1期70-71,共2页
老挝南欧江六级电站导流洞出口D0+546.0~D0+596.884段出现大规模塌方,塌方最大高度81m,塌方影响范围51m,塌方方量约15万m3.本文主要介绍了老挝南欧江六级电站导流洞出口塌方原因、处理方法,不同时段采取的施工方案以及最终实施效果.... 老挝南欧江六级电站导流洞出口D0+546.0~D0+596.884段出现大规模塌方,塌方最大高度81m,塌方影响范围51m,塌方方量约15万m3.本文主要介绍了老挝南欧江六级电站导流洞出口塌方原因、处理方法,不同时段采取的施工方案以及最终实施效果.该塌方规模大,在国内也比较少见,由于没有类似工程成功经验可以参考,本工程塌方处理施工技术具有借鉴意义. 展开更多
关键词 导流洞 大规模塌方处理 施工技术
下载PDF
热处理法降解生活垃圾焚烧飞灰中二噁英的技术现状
18
作者 李唯实 文卓钰 +3 位作者 李丽 闫大海 黄启飞 李唯实(译) 《环境卫生工程》 2024年第1期128-128,共1页
1研究亮点*总结降解生活垃圾焚烧飞灰中二恶英的热处理技术优缺点;*基于“低碳减排”“无废城市”背景,低温热处理及窑炉协同处置是适宜技术。2背景焚烧是高效、减量、无害化处理生活垃圾的重要方法,其产生的热量还可以用于发电和资源回... 1研究亮点*总结降解生活垃圾焚烧飞灰中二恶英的热处理技术优缺点;*基于“低碳减排”“无废城市”背景,低温热处理及窑炉协同处置是适宜技术。2背景焚烧是高效、减量、无害化处理生活垃圾的重要方法,其产生的热量还可以用于发电和资源回收,但焚烧也会给环境带来二次污染,例如飞灰。 展开更多
关键词 生活垃圾焚烧飞灰 处理 二噁英 大规模处理
下载PDF
大规模网络数据存储系统的设计与实现
19
作者 李荣利 《现代电子技术》 北大核心 2017年第2期118-121,124,共5页
当前的网络数据存储系统在处理大规模数据时需要较长时间,增加了网络数据存储周期,存储性能较差。因此设计并实现一种大规模网络数据存储系统,该系统主要包括A/D高速采集模块、FLASH存储模块和FPGA数据接收模块。A/D高速采集模块采集大... 当前的网络数据存储系统在处理大规模数据时需要较长时间,增加了网络数据存储周期,存储性能较差。因此设计并实现一种大规模网络数据存储系统,该系统主要包括A/D高速采集模块、FLASH存储模块和FPGA数据接收模块。A/D高速采集模块采集大规模网络数据,采用FPGA数据接收模块对采集到的网络数据进行接收和处理,过滤其中的噪声因素,再将处理好的网络数据保存在FLASH存储模块中。依据三层架构模式设计大规模网络数据存储系统软件架构,并给出了业务逻辑层完成数据传递的关键代码。实验结果表明,所设计的大规模网络数据存储系统具有较高的数据存储和读取速度,能够实现网络数据的负载均衡存储。 展开更多
关键词 A/D高速采集 FPGA 网络数据存储 大规模数据处理
下载PDF
Apache Flink流式计算模型在数据处理中的应用与性能优化研究
20
作者 徐海霞 《电脑知识与技术》 2024年第7期71-73,共3页
文章旨在研究Apache Flink流式计算模型在数据处理中的应用与性能优化。先从可扩展性、容错性和数据并行处理能力三个方面对Apache Flink流式计算框架技术特点进行论述,再对Apache Flink流式计算框架核心思想与工作流程进行研究,并提出... 文章旨在研究Apache Flink流式计算模型在数据处理中的应用与性能优化。先从可扩展性、容错性和数据并行处理能力三个方面对Apache Flink流式计算框架技术特点进行论述,再对Apache Flink流式计算框架核心思想与工作流程进行研究,并提出一套执行数据处理任务的Java源码,再从并行计算、数据存储和传输、算法参数、系统配置、资源管理与调度、检查点和容错机制、编码和序列化等方面就如何进行Apache Flink性能优化进行分析,最后通过实验手段就优化性能进行分析。实验结果表明,优化后的平均响应时间显著减少,吞吐量相应增加,调整并行度和内存分配等参数可显著提升系统性能,但还需要考虑任务调度和资源分配等方面的综合因素,因此,Apache Flink流式计算框架调优策略具有一定的应用价值。 展开更多
关键词 流式计算 Apache Flink 大规模数据处理 性能优化 并行计算
下载PDF
上一页 1 2 7 下一页 到第
使用帮助 返回顶部