首页 | 本学科首页   官方微博 | 高级检索  
相似文献
 共查询到18条相似文献,搜索用时 187 毫秒
1.
本文提出了将HBase应用于存储危废运输车辆监控大数据的方案,本文通过将该技术应用在危废运输车辆监控系统中的实现过程,并对系统做了测试分析方法,论证了基于HBase构建在Hadoop的HDFS之上,实现对海量数据随机、实时的访问;基于HDFS分布式文件系统,数据库不用再去考虑分布式的问题,能够存储(压缩与扩展)和管理海量数据。得出了HBase应用于车辆监控系统有很高的吞吐率,并且具有很好的扩展性。  相似文献   

2.
本文主要针对公共安全领域快速增长的海量数据处理需求,介绍了当前主流的大数据应用平台Hadoop框架,结合公安业务分析了Hadoop框架优势与应用场景,提出了公安大数据平台的建设思路以及RDBMS与Hadoop框架相结合的混合软件体系架构,从而兼顾海量数据的存储处理与OLTP的高实时性需求。  相似文献   

3.
分析了高职图书馆存储现状并介绍了Hadoop技术,针对高职图书馆的海量数据存储问题和投入少的矛盾,设计了基于Hadoop平台的高职数字图书馆云存储的结构模型,并通过实验验证了设计方案的可行性。  相似文献   

4.
针对桥梁健康监测获取海量数据却无法实时精确地监测评估桥梁结构状态的困难性,本立足数据挖掘算法理论,在Hadoop平台下运用KNN文本分类算法对桥梁结构缩尺模型加速度数据进行分类分析,采用分布式文件系统HDFS对监测数据进行存储和访问,应用Map/Reduce并行计算框架对桥梁各环境参数进行计算,并据此判断监测点属于何种工况,实现了桥梁监测海量数据的存储、访问、分类以及桥梁结构健康状况的判别,通过实验室缩尺模型工程实例验证了理论的有效性。实验结果表明,与传统的串行分类算法相比,基于Hadoop平台的并行分类算法具有较好的扩展性,并取得了基于大数据理论的桥梁监测技术研究的革新。  相似文献   

5.
复合图书馆海量存储系统研究与应用   总被引:1,自引:0,他引:1  
唐开 《现代情报》2006,26(8):163-165
本文在分析复合图书馆数据存储系统需求的基础上,对目前流行的3种存储系统特性进行了比较,探讨了SAN存储架构在复合图书馆海量存储系统中的应用。  相似文献   

6.
《科技风》2016,(22)
随着信息时代的飞速发展。海量数据的应用处理已经成为大家重点关注的首要问题。论文首先对Hadoop技术的产生及特点进行介绍,然后重点分析了Hadoop的两大关键技术分布式文件系统(HDFS)和Map Reduce编程模型,最后对Hadoop的关键技术进行总结并给出一些看法,并对未来发展方向进行了展望。  相似文献   

7.
一种基于新型存储的数字图书馆分布式大数据存储架构   总被引:1,自引:0,他引:1  
陈臣 《现代情报》2015,35(1):100-103
图书馆数据是一种典型的大数据,大数据管理是目前图书馆面临的一个复杂问题.为了解决传统关系型数据库在海量数据存储和访问效率中存在的瓶颈问题,本文提出了一种基于新型存储的数字图书馆大数据分布式存储架构.该存储架构具有良好的可扩展性、容错性和存储性能.  相似文献   

8.
【目的/意义】针对互联网时代图书馆的海量业务、文献和用户数据,利用 Spark技术框架有效解决图书馆大 数据挖掘处理下读者更复杂的多重处理需求和低延迟的交互式查询需求问题。【方法/过程】阐述并分析了智慧图 书馆建设发展的相关理念及功能性需求,建立了基于 Spark大数据处理技术的图书馆智慧服务框架,对比 Hadoop MapReduce框架法,提出和介绍了基于 Spark大数据处理技术的图书馆智慧服务流程和应用实践情况。【结果/结 论】理论分析和实践表明,相较传统 Hadoop MapReduce框架法,Spark在运行速度、易用性、通用性及容错性上都有 更好的表现;基于 Spark技术的大数据处理平台,可优化和改进图书馆大数据处理模型,能更好地满足图书馆智慧 服务的知识共享、使用便利、服务高效功能需求。  相似文献   

9.
云平台下大型矩阵乘法运算处理方案设计   总被引:1,自引:0,他引:1  
本文在开源云计算平台Hadoop的基础上利用MapReduce和HDFS,针对大型矩阵相乘,并结合个人实际水平进行简单的开发应用。通过开发和研究,进一步探讨云计算关键技术MapReduce对于海量数据处理的意义。  相似文献   

10.
为解决海量日志数据的存储分析问题,提出采用主流大数据Hadoop生态平台组件来进行解决以上问题;将大数据技术与高校网络日志数据存储与分析相融合,构建了一个基于大数据技术—Hadoop的校园网络日志分析平台,来进行实时监控高校学生的上网行为信息,进而辅助高校的教学管理,对高校的信息化改革具有重要意义。  相似文献   

11.
图书馆已进入大数据时代,大数据的规模性、高速性和数据来源的多样性,使数据产生不一致和冲突,严重影响了图书馆大数据决策的科学性。本文提出了一种图书馆大数据资源质量评估与整体优化的方法,可为用户提供准确高效的大数据质量评价结果,并能够大幅度提升图书馆大数据决策的科学性。  相似文献   

12.
杨利军  高军 《现代情报》2015,35(7):68-72
随着计算机软硬件的快速发展和网络普及,图书馆中的大数据量呈现爆炸式增长。本文介绍了大数据的定义,阐述了图书馆个性化服务中的大数据可视化分析的重要意义。为保证图书馆员更好地对海量、复杂大数据进行有效分析,本文设计了一种图书馆大数据可视化分析系统框架。该系统可有效提升大数据挖掘的效能,帮助用户更好地理解数据,并具有较为完善的可视化分析功能。  相似文献   

13.
田青 《现代情报》2015,35(11):156
大数据是不可逆转的,对图书馆的知识管理与知识服务产生巨大冲击。文章从大数据的资源特点出发,分析了大数据有效存储与图书馆知识服务之间的关系,存在基础性、质量性、内嵌性与可管理性。重点论述了图书馆的知识存储规划,指出须在用户需求导向下,将大数据转换为有价值的知识,利用数据生命周期、价值性、更新频率、使用频率等指标对知识进行重要性评估,根据重要程度进行知识分类与分级知识存储,同时注意数据备份与灾难预警,保障知识的动态性与安全性,力图为大数据利用、知识存储与知识管理提供新的研究视角。  相似文献   

14.
陈臣 《现代情报》2017,37(8):85
[目的/意义]为从大数据中发现潜在规律和提取有用的知识,并有效解决图书馆在个性化智慧服务中存在的问题。[方法/过程]面对读者的智慧阅读需求,本文研究了图书馆在个性化智慧服务中应注意的问题,构建了基于大数据挖掘与知识发现的图书馆智慧服务体系,并论述了智慧图书馆各服务层的功能。[结果/结论]该体系可实现资源和服务的高度融合,显著减少系统资源的占用,能够依据读者需求智慧化地定制服务,并为读者提供个性化智慧阅读服务。  相似文献   

15.
马晓亭 《现代情报》2016,36(9):107-111
图书馆的大数据时代已经来临,大数据质量问题是影响图书馆大数据应用的重要因素,而大数据清洗则是提高图书馆大数据质量的主要手段。本文介绍了图书馆不清洁数据的类型与产生原因,设计了基于大数据决策分析需求的图书馆大数据清洗系统,该系统不仅可以提高大数据清洗的效率和精确度,而且大幅度降低了图书馆大数据决策分析的复杂度。  相似文献   

16.
如何利用大数据构建图书馆新型知识服务体系   总被引:1,自引:0,他引:1  
陈国兰 《现代情报》2014,34(9):149-152
大数据时代已经来临,大数据也给高校图书馆带来了机遇和挑战,文中结合大数据的背景,首先介绍大数据的定义和思维,接着分析了图书馆可利用的大数据来源,以及带给图书馆的价值,最后探讨了如何利用大数据构建新型的知识服务体系,期望能够为未来的图书馆知识服务创新体系提供理论参考。  相似文献   

17.
陈臣 《现代情报》2016,36(8):10
数字图书馆已进入大数据时代。大数据时代既给数字图书馆带来了机遇,也给数字图书馆带来了挑战,如何将零散分布、孤岛存储的图书馆数字资源融合成完整的“大数据”,从中提取出有用的信息,并最终转化为知识和规则,对于提升数字图书馆的服务能力和竞争力十分重要。针对数字图书馆存在数据来源各异、数据存储方式多样、数据形式非结构化等问题,本文对大数据时代图书馆数字资源的重构与融合问题进行了研究,提出了基于大数据的图书馆数字资源重构与融合策略。该策略有助于对图书馆数字资源进行整合,可促进数字资源的共享,有助于加强数字资源、读者、系统服务资源和个性化服务模式的融合,并最终提升数字图书馆的综合服务能力。  相似文献   

18.
马晓亭 《现代情报》2015,35(8):47-50
数据整合对提高图书馆的数据处理与共享能力,进而提升数据有效性、可用性和优化决策等能力有重要意义。本文提出了一种基于大数据的图书馆异构数据整合机制,该机制可提高图书馆大数据的利用效率,并有助于实现图书馆的信息资源整合。  相似文献   

设为首页 | 免责声明 | 关于勤云 | 加入收藏

Copyright©北京勤云科技发展有限公司  京ICP备09084417号