首頁 > IT問答庫 >大數據 > 大數據平台是什麼?有哪些功能?如何搭建大數據平台?

大數據平台是什麼?有哪些功能?如何搭建大數據平台?

大數據平台是指以處理海量數據存儲、計算及不間斷流數據實時計算等場景為主的一套基礎設施。典型的包括Hadoop系列、Spark、Storm、Flink以及Flume/Kafka等集群。既可以采用開源平台,也可以采用華為、星環等商業級解決方案,既可以部署在私有雲上,也可以部署在公有雲上。
 
大數據平台的功能:
1、容納海量數據
利用計算機群集的存儲和計算能力。不僅在性能上有所擴展,而且其處理傳入的大量數據流的能力也相應提高。
2、速度快
結合列式數據庫架構(相對于基于行的非并行處理傳統數據庫)和使用大規模并行處理技術,不僅能夠大幅提高性能(通常約100到1000倍),還可以實現更低且更透明的定價機制。
3、兼容傳統工具
确保平台已經過認證,可以兼容傳統工具。
4、利用Hadoop
Hadoop已成為大數據領域中的主要平台。利用Hadoop作為用于持久性和輕量型數據管理的高效益平台。
5、為數據科學家提供支持
數據科學家在企業IT中擁有着更高的影響力和重要性,快速、高效、易于使用和廣泛部署的大數據平台可以幫助拉近商業人士和技術專家之間的距離。
6、提供數據分析功能
确保大數據平台不僅支持在數秒鐘内準備并加載數據,還支持利用高級算法建立預測模型,輕松部署模型以進行數據庫内計分。同時使數據科學家能夠使用現有統計軟件包和首選語言。
 
比較好的大數據平台:
有阿裡雲,騰訊,百度,華為和星環。
阿裡雲的大數據平台偏技術,産品比較齊全;
騰訊大數據産品偏分析,産品和方案偏少;
百度大數據的産品也比較齊全,另外偏營銷的解決方案不少;
華為的産品根據行業客戶需求進行優化的解決方案;
星環的産品很有特點,但是研發能力和市場等比較弱。
 
如何搭建大數據分析平台?
一般性步驟:
1、Linux系統安裝
2、分布式計算平台/組件安裝
當前分布式系統的大多使用的是Hadoop系列開源系統
3、數據導入
數據導入的工具是Sqoop
4、數據分析
數據分析一般包括兩個階段:數據預處理和數據建模分析。
數據預處理這個過程可能會用到Hive SQL,Spark QL和Impala。
數據建模分析最好用的是Spark
5、結果可視化及輸出API
可視化一般式對結果或部分原始數據做展示。
可分享到:
上一篇 : 第一頁
下一篇 : 如何搭建大數據分析平台?
你可能感興趣的内容|INTERESTING NEWS

限時優惠
本周申請限100個名額