并行存储系统论文_陈孝文,陈宁,李蕊,张应斌,董卫魏

导读:本文包含了并行存储系统论文开题报告文献综述、选题提纲参考文献及外文文献翻译,主要关键词:多核,分布式,存储系统,数据,处理器,节能,速比。

并行存储系统论文文献综述

陈孝文,陈宁,李蕊,张应斌,董卫魏[1](2019)在《基于MAPREDUCE并行化处理的用户地址数据规范化存储与管理系统设计》一文中研究指出电网用户规模庞大,由于历史原因,对其地址数据进行存储和管理难度较大,目前用户地址数据规范化程度较低。针对这一问题,本次研究将基于MAPREDUCE并行处理机制,探讨用户地质数据规范化存储方法,解决其中的关键技术问题,并给出用户地质数据规范化存储管理系统的设计方案。(本文来源于《电子测试》期刊2019年02期)

安长俊,周家婕,魏斌,高明[2](2017)在《基于分布式存储的高性能嵌入式并行处理系统的设计与实现》一文中研究指出本文在对嵌入式高性能并行处理系统加速比的数学模型拓展分析的基础上,提出了一种当今更适于高性能信号处理算法的基于分布式存储的并行处理架构,并在此基础上设计实现了基于TMS320C6678的多片多核DSP互联的通用大容量存储实时信号处理卡,使用该板卡构建了某实时信号处理系统。验证了该架构具有标准化、模块化、可扩展、可重构的特点。验证了该系统强大的并行处理性能。(本文来源于《电子世界》期刊2017年18期)

杨智峰,常德双,帅威,彭延国,曹征[3](2017)在《分布式并行云存储系统Parastor及在石油勘探领域的应用》一文中研究指出针对石油勘探领域的发展现状与日益增长的海量地震数据存储的需求,探索将云技术应用到石油勘探业务系统中。选用新型高效的Parastor并行分布式云存储文件系统,构建石油勘探云存储一体化架构。该系统包括存储子系统、计算子系统、网络子系统、地震资料处理与计算子系统,从而解决了石油勘探行业大规模数据存储,高I/O带宽与高浮点计算性能需求。其中存储子系统Parastor由硬件节点层、数据处理层与应用协议层叁层架构组成,具有强大的小文件聚合与高效数据容错重构功能。与传统的分布式文件系统架构相比,该架构在系统扩展性、可靠性和服务性等多方面均更加具有优势。能够适应日益增长的石油勘探系统海量数据存储需求,解决石油勘探系统中大容量数据存储的瓶颈,从而为用户提供高质量的云存储服务。(本文来源于《石油工业计算机应用》期刊2017年02期)

肖肇宇[4](2017)在《基于节能与可靠性的并行存储系统模型的设计与分析》一文中研究指出对于当今时代的数据中心而言,提高并行文件系统的性能不再是唯一的目标。由于能源问题以及可靠性问题的出现已经是不可避免的,因此对当前数据中心的大规模存储系统而言,如何在保证系统可靠性的同时减少能源消耗成为了一个亟待决绝而富有挑战性的问题。然而,大部分传统节能技术都对并行存储系统具有负面影响。当前的节能解决方案主要可以分为通过磁盘的开启关闭进行节能与使用固态硬盘替换部分磁盘。此类解决方案可能造成磁盘失效并导致数据永久丢失;而由于固态硬盘闪存的擦写周期有限,高写入I/O负载环境将缩短固态硬盘的寿命。为了在进行节能的同时保证并行存储系统的可靠性,本文设计了一种基于节能与可靠性的并行存储系统模型(RESS)。RESS旨在通过使用传统与固态硬盘的混合存储结构,同时提高并行存储系统可靠性与能效。RESS的核心是一个位于应用层和文件系统层之间的中间层文件系统,中间层通过对I/O顺序进行排序达到分配I/O负载的目的。RESS将经常被访问的数据放入SSD,当系统处于负载较低的状态时,在满足I/O响应需求的情况下,在不修改并行文件系统的情况下实现将HDD转入低能耗模式进行节能。当系统处于高负载状态时,无法进行节能操作。此时,RESS将所有磁盘保持活动状态并关闭固态硬盘,以减少固态硬盘的擦写周期数,保证固态硬盘的可靠性。本文中使用磁盘仿真工具DiskSim对RESS进行了仿真测试。仿真结果表明,RESS在保证系统可靠性的同时,相比传统磁盘阵列能够实现约70%的节能。此外,仿真实验的基础上,在实际系统上完成了 RESS的实现,并进行了实际系统测试。实际系统测试表明,RESS相较于传统磁盘阵列存储系具有更高的I/O性能。(本文来源于《湖南大学》期刊2017-05-09)

李学武[5](2016)在《基于节能技术的并行存储系统可靠性分析与研究》一文中研究指出现有的可靠性分析模型被广泛应用于评测各种存储系统的使用年限,特别是并行存储系统的使用年限。并行存储系统中大量的冗余数据和巨大的存储资源被闲置而导致系统能源浪费、能效低下,这些问题,催生出众多的并行文件系统节能技术。以往的可靠性分析模型并未分析并行存储节能技术对系统内部参数的影响,本文综合考虑系统可靠性与节能技术的相互影响后,设计了一种针对基于节能技术的并行存储系统进行可靠性分析的模型,为相关的实际应用提供了理论指导意见。鉴于并行存储系统的广泛应用以及系统节能技术的逐步普及,该可靠性分析模型的出现具有巨大的市场潜力以及显着的现实意义。本文首先根据文件的访问模式来分析基于节能技术的并行存储系统系统中各个磁盘的磁盘负荷和磁盘开关频率;然后综合磁盘负荷、磁盘工作年限、磁盘工作温度、磁盘开关频次量化各个磁盘的可靠性;接下来利用DiskSim磁盘仿真软件来模拟基于能耗优化技术的并行存储系统的数据操作;最后用实际互联网数据中心的文件访问日志来验证本文设计的模型。相较以往的研究,本文设计的针对基于节能技术的并行存储系统可靠性分析模型有如下优势:(1)考虑到了节能技术对存储系统,特别是并行存储系统可靠性的影响;(2)可以定量的分析出系统节能技术对磁盘负荷、磁盘开关频率的影响;(3)能够建立起关于磁盘负荷、磁盘工作温度、磁盘开关频次的系统年故障率函数。最后,本文主要工作有以下几个方面:(1)设计了一种系统级的模型用以分析基于节能技术的并行存储系统的可靠性;(2)本文设计的针对基于节能技术的并行存储系统的可靠性分析模型可以通过系统的I/O负载来量化系统年故障率;(3)利用磁盘仿真软件DiskSim验证了本文设计的可靠性分析模型;(4)通过重现实际数据中心的文件访问日志的实验,本文验证了可靠性分析模型能够有针对的分析基于节能技术的并行存储系统的可靠性,并且在分析过程中考虑到节能技术对系统可靠性的影响。(本文来源于《湖南大学》期刊2016-04-26)

田丰,李成雨,赵明晔[6](2016)在《分布式并行存储系统在NCN云平台的应用》一文中研究指出随着广电视频业务的发展,并发带宽达到Tb级,数据存储达到数PB级,ISV软件开发商也逐步从独立纵向变成横向合作的模式,原有的NAS+CDN的技术架构暴露出越来越多的问题,也越来越不能适应这种趋势的发展;NCN分布式并行存储系统采用软件定义存储的技术以及标准POSIX文件接口,上述面临的问题迎刃而解,将逐步成为构筑可伸缩、高可靠性的广电存储系统必不可少的基础平台技术。(本文来源于《有线电视技术》期刊2016年02期)

陈金鑫[7](2016)在《基于CPU-GPU架构的列存储系统并行查询与优化》一文中研究指出随着业务数据的积累,特别是网络数据的快速增长,利用科学的手段快速处理数据,从多个不同的角度分析数据的需求不断增长。多核CPU,以及多核CPU集成GPU硬件架构的出现为快速处理数据提供了新的可能。特别是,将CPU-GPU架构和读优先的列存储数据仓库技术相结合可极大地提高查询处理的速度。列存储数据仓库技术主要关注数据的查询与分析,而数据的查询分析操作一般表现为在多表之间的连接操作基础上对结果集进行分组聚集等操作。因此,表连接和聚集操作成为了影响OLAP性能的两个重要因素。而另一方面,硬件架构的发展为多表连接和分组聚集的性能提升提供了新的可能。目前针对单机上的并行查询处理研究主要分为叁类:单机多核并行查询处理、GPU并行查询处理以及CPU和GPU协同并行查询处理。现有研究存在如下几点缺陷:基于行存储的数据划分策略,以元组作为基本处理单位,当出现多表连接时,表存在多个外键,需按照一定的规则选择主划分属性和辅助划分属性。现有数据划分策略难以直接应用于异构平台列存储系统中,需要根据硬件特点对其重新设计。此外,CPU和GPU之间细粒度的并行策略,主要通过将任务进行划分,并未考虑充分CPU和GPU的利用率。因此,CPU和GPU某方负载过高而另一方负载过低的不平衡现象频繁出现,极大地影响了协同执行的效率。为此,本文研究了异构平台上的数据划分策略和任务分配模型,并将之有效地融入列存储数据仓库,然后设计并实现了混合并行查询引擎。本文的具体研究工作如下:1.针对列存储系统按列存储数据,相邻数据具有较高相似性的特点,设计了硬件敏感的ICMD数据划分策略。同时,设计了一个任务分配模型,分配并动态调整CPU和GPU的任务负载。2.论文深入研究了列存储数据库查询引擎的结构设计,结合CPU-GPU架构的特点设计并实现了一个混合并行查询引擎。3.基于异构平台数据传输的特点,本文提出了一种查询优化策略。通过重写查询执行计划,合并CPU和GPU处理器之间的数据传输,使查询性能得到了进一步的提高。4.最后,本文在我们实验室研制的列存储数据仓库系统DWMS中具体实现了上述各项技术,并以SSB基准数据集为测试数据进行了测试。通过查询性能的对比实验,验证了数据划分策略、任务分配模型及混合查询的有效性。实验结果表明:基于HPQE混合查询引擎的数据仓库复杂查询性能相比于DWMS提升了23%,相比于基于GPU查询引擎-Ocelot的数据仓库提升了18%;结合执行计划优化策略和HPQE混合查询引擎的数据仓库复杂查询性能相比于DWMS提升了87%,相比于基于GPU查询引擎-Ocelot的数据仓库提升了68%。(本文来源于《东华大学》期刊2016-01-01)

付印金,胡谷雨,倪桂强,陈卫卫,卢继荣[8](2015)在《面向大数据备份的应用感知并行重删存储系统》一文中研究指出随着社会数字网络信息化进程的不断推进,全球IT企业需要管理的数据量急剧增长.当前大规模数据中心对海量复杂数据管理在扩展性、性能和成本等方面要求的不断提升.为了减缓企业存储容量的增长速度,传统的重复数据删除存储管理技术和方法已无法满足大数据备份应用的服务质量需求,新的软硬件技术进步为大数据管理能力的提升带来机遇.提出了一种面向大数据备份的应用感知并行重删存储系统,它利用新型非易失性存储来提升块索引的并发查询能力,并通过应用层丰富的文件语义信息设计应用感知的数据路由机制.通过实验论证,该并行重删存储系统不仅能实现单个节点内高性能的并行数据重删处理,还能通过横向扩展提升集群数据重删的吞吐量.(本文来源于《计算机研究与发展》期刊2015年S2期)

丁祥武,陈金鑫,王梅[9](2017)在《异构计算平台上列存储系统的并行连接优化策略》一文中研究指出GPU以及集成式的CPU-GPU架构凭借其强大的并行处理能力和可编程流水线方式,已经成为数据库领域的研究热点。为充分利用异构平台的并行计算能力,提升列存储系统的查询性能,在研究异构平台结构特性的基础上,首先提出了GPU多线程平台上进行连接的数据划分策略——ICMD(Improved CMD),利用GPU流处理器并行处理各个子空间上的连接,然后利用任务评估分配模型实现查询负载的动态分配,使得查询操作能在多核CPU、GPU上高效并行执行。同时利用片上全局同步机制、局部内存重用技术优化ICMD连接算法。最后采用SSB基准测试集测试,结果表明:Intel~?HD Graphics 4600平台上并行连接查询相比于CPU版本获得了35%的性能提升,较GPU查询引擎的Ocelot性能上提升了18%。(本文来源于《计算机工程与应用》期刊2017年05期)

刘洋[10](2015)在《基于磁盘阵的高速并行采集存储系统研究》一文中研究指出随着宽带超宽带微波技术及计算机技术的发展,普通的数据采集存储系统已无法满足现代雷达系统对高带宽数据的采集与存储需求,现代采集存储系统应具有高带宽采集与海量存储的特点。鉴于雷达技术的高速发展,现代采集存储系统要求通过一定的扩展即可满足不同指标的雷达及通信系统的需求以缩短采集存储系统的研制周期及成本,即现代采集存储系统应具有较强的可扩展性。本文针对现代雷达系统对高速采集存储系统的需求,提出了一种基于磁盘阵的高速并行采集存储系统方案。文中首先分析了高速采集存储系统的关键技术,包括高速并行采集及同步技术,高速传输技术、高速大容量存储技术及高速缓存技术,并提出了各类技术的实现方法;然后基于上述技术和现有的高速采集存储系统,提出了一种基于磁盘阵的高速并行采集存储系统方案,对该方案进行了详细的分析与论证;其次,基于科研任务实现了一套基于磁盘阵的高速并行采集存储系统,对系统各模块的硬件构成及软件实现进行了详细介绍,并完成了系统测试;最后,对本文的研究内容和创新点进行了总结,并对今后有待于改进的方面提出了建议。(本文来源于《北京理工大学》期刊2015-11-01)

并行存储系统论文开题报告

(1)论文研究背景及目的

此处内容要求:

首先简单简介论文所研究问题的基本概念和背景,再而简单明了地指出论文所要研究解决的具体问题,并提出你的论文准备的观点或解决方法。

写法范例:

本文在对嵌入式高性能并行处理系统加速比的数学模型拓展分析的基础上,提出了一种当今更适于高性能信号处理算法的基于分布式存储的并行处理架构,并在此基础上设计实现了基于TMS320C6678的多片多核DSP互联的通用大容量存储实时信号处理卡,使用该板卡构建了某实时信号处理系统。验证了该架构具有标准化、模块化、可扩展、可重构的特点。验证了该系统强大的并行处理性能。

(2)本文研究方法

调查法:该方法是有目的、有系统的搜集有关研究对象的具体信息。

观察法:用自己的感官和辅助工具直接观察研究对象从而得到有关信息。

实验法:通过主支变革、控制研究对象来发现与确认事物间的因果关系。

文献研究法:通过调查文献来获得资料,从而全面的、正确的了解掌握研究方法。

实证研究法:依据现有的科学理论和实践的需要提出设计。

定性分析法:对研究对象进行“质”的方面的研究,这个方法需要计算的数据较少。

定量分析法:通过具体的数字,使人们对研究对象的认识进一步精确化。

跨学科研究法:运用多学科的理论、方法和成果从整体上对某一课题进行研究。

功能分析法:这是社会科学用来分析社会现象的一种方法,从某一功能出发研究多个方面的影响。

模拟法:通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。

并行存储系统论文参考文献

[1].陈孝文,陈宁,李蕊,张应斌,董卫魏.基于MAPREDUCE并行化处理的用户地址数据规范化存储与管理系统设计[J].电子测试.2019

[2].安长俊,周家婕,魏斌,高明.基于分布式存储的高性能嵌入式并行处理系统的设计与实现[J].电子世界.2017

[3].杨智峰,常德双,帅威,彭延国,曹征.分布式并行云存储系统Parastor及在石油勘探领域的应用[J].石油工业计算机应用.2017

[4].肖肇宇.基于节能与可靠性的并行存储系统模型的设计与分析[D].湖南大学.2017

[5].李学武.基于节能技术的并行存储系统可靠性分析与研究[D].湖南大学.2016

[6].田丰,李成雨,赵明晔.分布式并行存储系统在NCN云平台的应用[J].有线电视技术.2016

[7].陈金鑫.基于CPU-GPU架构的列存储系统并行查询与优化[D].东华大学.2016

[8].付印金,胡谷雨,倪桂强,陈卫卫,卢继荣.面向大数据备份的应用感知并行重删存储系统[J].计算机研究与发展.2015

[9].丁祥武,陈金鑫,王梅.异构计算平台上列存储系统的并行连接优化策略[J].计算机工程与应用.2017

[10].刘洋.基于磁盘阵的高速并行采集存储系统研究[D].北京理工大学.2015

论文知识图

并行存储系统中的各个独立存储...数据迁移模型对5 MHz信号相关采样的频谱图可行性验证研究阶段所使用的验证平台云服务平台总体架构图高位交叉访问存储器结构

标签:;  ;  ;  ;  ;  ;  ;  

并行存储系统论文_陈孝文,陈宁,李蕊,张应斌,董卫魏
下载Doc文档

猜你喜欢