【杭州網站設計】高性能集群計算(HPCC)能取代Hadoop嗎?
分享 2011.07.02 瀏覽次數:12049次
LexisNexis公司將發布一款開源的數據處理方案,LexisNexis公司宣稱其處理工作負載的能力要優于Hadoop。該技術被稱為HPCC系統,該系統在10年前幫助LexusNexis公司的Risk Solutions分析大量的客戶數據。并在金融業和其他重要的行業中應用。看來HPCC(High-Performance Cluster Computing 高性能集群計算)似乎有能力成為替代Hadoop的解決方案。
據LexisNexis Risk Solutions部門CTO Armando Escalante表示,LexisNexis公司決定發布HPCC系統,目前的狀況是Hadoop技術已經成為處理海量數據的首選。Armando Escalante表示Hadoop雖然在海量數據處理方面走在前邊,但他認為HPCC系統更為優越。
但重要的是,Hadoop的開源模式吸引了大量相關人員對其進行開發和創新。Armando Escalante解釋說,如果公司想要繼續保持HPCC的影響力就需要通過一個新社區提供應用和好的創意。
Hadoop是許多年前由當時的Yahoo員工Doug Cutting在Apache軟件基金會創建的項目。Hadoop現已成為網絡公司的重要工具。包括Yahoo、Facebook,并幫助他們處理不斷增長的非結構化數據。Hadoop催生了一批用于商業的基于分布式技術的產品,包括Cloudera,EMC和IBM等公司。
HPCC如何工作
Hadoop依靠兩個核心組件來存儲和處理海量數據——Hadoop分布式文件系統和Hadoop Mapreduce。Cloudant公司CEO Mike Miller認為MapReduce在編寫并行處理工作流時依然相對復雜,HPCC旨在通過ECL(Enterprise Control Language)改善這一局面。
Escalante表示ECL是一種聲明式并以數據為中心的語言,它剝離了大量MapReduce必要的工作。對于某些千行代碼的MapReduce任務ECL只需要99行。此外,他還表示ECL對集群中節點的數量沒有要求,系統會自動將數據分布式的存放在當前節點之中。從技術上講,HPCC還可以運行在單一的虛擬機上。HPCC基于C++,如同Google最早的Mapreduce,這使得HPCC天生在效率上就優于基于Java開發的Hadoop。
HPCC提供兩種數據處理和服務的方式——Thor Data Refinery Cluster和Roxy Rapid Data Delivery Cluster。Escalante表示如此命名是因為其能像Thor(北歐神話中司雷、戰爭及農業的神)一樣解決困難的問題,Thor主要用來分析和索引大量的Hadoop數據。而Roxy則更像一個傳統的關系型數據庫或數據倉庫,甚至還可以處理Web前端的服務。
雖然沒有深入探討HPCC存儲組件的細節,但Escalante表示HPCC基于分布式文件系統,并可支持各種off-node存儲架構和本地的SSD。
Escalante認為為了確保LexisNexis產品質量,應采用“eating its own dogfood”(指軟件公司強調自己的軟件產品首先應內部使用,如果希望顧客購買公司的產品,公司內部也應該愿意使用它們)做法。HPCC開發團隊還聘請了Hadoop專家幫助檢驗其產品是否有問題疏漏。HPCC還構建了一個轉換器,用于遷移Hadoop Pig編寫的應用并轉換為ECL。
HPCC具有競爭力嗎?
一個關鍵的問題是HPCC是否能吸引到業界的構建者和用戶,這將有助于提升其在海量數據領域的話語權。Escalante認為HPCC能夠成功,因為HPCC已經證明了自己,它已處理LexisNexis Risk Solutions的35000個數據源。同時HPCC還可以每秒處理5000次的和支付客戶打交道的交易事物。
Hadoop已經證明了自己,其潛在的巨大核心業務每天都在增長,現在企業和組織在海量數據上依托于Hadoop。但Hadoop并不滿足這些成就。這使得微軟也在海量數據的競爭中推出了自己的分布式計算技術Dryad。(李智/譯)
原文鏈接:GIGAOM
杭州網站設計公司 杭州網站建設公司 杭州網站制作公司 杭州網站設計 杭州網站建設 杭州網站制作 杭州精品網站制作 杭州精典網站制作
-
杭州網站建設:醫院網站設計中的“學習與執行”
日期:2025-06-10瀏覽次數:2007次
-
杭州網站制作公司:大型企業網站建設的核心要素與實踐
日期:2025-06-10瀏覽次數:1954次
-
杭州網站設計:醫院網站建設的主要內容與前景展望
日期:2025-06-10瀏覽次數:1983次
-
杭州網站建設:傳統企業網站面臨的挑戰與變革
日期:2025-05-16瀏覽次數:4754次
-
杭州品牌網站開發:建設與后期維護的雙重策略
日期:2025-05-16瀏覽次數:4772次
相關新聞
整合同類新聞,相關新聞一手掌握
-
哈爾濱企業,開展網站營銷的方法
日期:2023-02-20瀏覽次數:5644次
-
哈爾濱網站建設,提升用戶同樣的5種方法
日期:2023-02-20瀏覽次數:5838次
-
哈爾濱網站要怎么做?
日期:2023-02-20瀏覽次數:5634次
-
哈爾濱企業,如何做一個高端的網站
日期:2023-02-20瀏覽次數:5513次
-
哈爾濱網站制作如何體現網站價值?
日期:2020-10-12瀏覽次數:5919次
最新新聞
與互聯網同行,實時掌握網建行業最新動態
-
微軟透露Windows Phone 8已進入籌劃階段
日期:2010-11-03瀏覽次數:11032次
-
中國版“谷歌地球”上線 資料陳舊功能欠缺
日期:2010-11-03瀏覽次數:11178次
-
建設網站時需求一定要明確
日期:2019-11-26瀏覽次數:5607次
-
單頁面杭州營銷型網站是什么?對企業有什么好處呢?
日期:2021-08-13瀏覽次數:7944次
-
杭州網站優化的診斷離不開品牌與競品
日期:2023-02-27瀏覽次數:6354次
隨機新聞
新聞新動態,您需要的新聞管家
洞悉市場趨勢演變讓傳播回歸社會
免費獲取網站建設與網絡推廣方案報價
-
關于我們
杭州帷拓科技有限公司,是一家新型的全案網絡開發公司,作為以互聯網高端網站建設、APP開發、小程序開發為核心的專業網絡技術服務供應商,帷拓科技致力于全面分析市場環境、衡量與預測市場需求、整合區別于行業競爭對手的絕對優勢,結合品牌理念深度挖掘項目優勢和產品價值,提升客戶品牌認知、認可度。
-
我們的客戶
帷拓科技歷經十年沉淀,與國內外上千家客戶達成合作關系,其中穩定合作的公司有:浙江華為、浙江移動、浙江5G產業聯盟、浙江省社科院、綠城足球俱樂部、娃哈哈雙語學校、健康中國杭州峰會、科雷機電等,帷拓科技始終堅持“帷有專業,才能拓展無限”的服務理念,堅持“認真堅持細節”的優質服務理念,不斷完善自身,成就企業,最終實現共贏。
-
我們的業務
帷拓科技主營業務范圍包含互聯網高端網站建設、APP開發、小程序開發、商城網站建設、公眾號運營以及數字營銷等,涵蓋了服務、房產、數碼、服裝、物流貿易等行業,根據品牌現狀,為每個客戶量身定制項目整體服務方案,以敏銳的市場洞察力、創新的市場策劃能力,全面把握市場變化,為客戶實現從企業到消費者的價值轉換。