近日,中國(guó)信息通信研究院(以下簡(jiǎn)稱“中國(guó)信通院”)公布了第十四批大數(shù)據(jù)產(chǎn)品能力評(píng)測(cè)結(jié)果。大華股份大數(shù)據(jù)平臺(tái),經(jīng)過(guò)評(píng)審專家資料審核、測(cè)試報(bào)告審核、質(zhì)詢與答疑、集中評(píng)議的層層專業(yè)評(píng)測(cè),最終獲得中國(guó)信通院“可信大數(shù)據(jù)”評(píng)估評(píng)測(cè)證書,是業(yè)界首家通過(guò)中國(guó)信通院“分布式批處理大規(guī)模穩(wěn)定性”資質(zhì)認(rèn)證的產(chǎn)品。
評(píng)測(cè)過(guò)程中,大華大數(shù)據(jù)平臺(tái)在7048節(jié)點(diǎn)大集群規(guī)模下進(jìn)行測(cè)試,單次查詢10000億+條數(shù)據(jù),測(cè)試覆蓋17種常見業(yè)務(wù)場(chǎng)景,7x24小時(shí)持續(xù)觸發(fā)專項(xiàng)異常評(píng)測(cè)項(xiàng),業(yè)務(wù)穩(wěn)定運(yùn)行無(wú)中斷,系統(tǒng)可容忍CPU、磁盤、內(nèi)存、網(wǎng)絡(luò)等10大類異常情況,在持續(xù)異常測(cè)試中,業(yè)務(wù)查詢時(shí)間抖動(dòng)<5%, 通過(guò)分布式批處理大規(guī)模穩(wěn)定性專項(xiàng)測(cè)試,顯示出大華大數(shù)據(jù)平臺(tái)具備解決大規(guī)模分布式系統(tǒng)擴(kuò)展、性能、容災(zāi)等穩(wěn)定性問(wèn)題的能力。
同時(shí),大華大數(shù)據(jù)平臺(tái)憑借穩(wěn)定性評(píng)估的優(yōu)異表現(xiàn),獲得中國(guó)信通院云計(jì)算與大數(shù)據(jù)研究所的頒發(fā)的“穩(wěn)定性實(shí)踐先鋒”的授牌。
大華大數(shù)據(jù)平臺(tái)(HDP)定位于數(shù)據(jù)智能引擎的統(tǒng)一核心數(shù)據(jù)底座,基于云原生自主可信,提供包含海量視圖數(shù)據(jù)存儲(chǔ)、物聯(lián)感知數(shù)據(jù)離線批處理、視頻流任務(wù)實(shí)時(shí)分析能力等一站式智慧物聯(lián)大數(shù)據(jù)平臺(tái)能力,廣泛應(yīng)用于城市、交通、教育、能源、金融等行業(yè),賦能千行百業(yè)數(shù)智化轉(zhuǎn)型。大華大數(shù)據(jù)平臺(tái),在計(jì)算和存儲(chǔ)的大規(guī)模技術(shù)能力已具備萬(wàn)臺(tái)節(jié)點(diǎn)規(guī)模集群下長(zhǎng)周期系統(tǒng)性穩(wěn)定運(yùn)行,全流程打通實(shí)現(xiàn)yarn on k8s,支持動(dòng)態(tài)資源彈性擴(kuò)縮,讓業(yè)務(wù)更敏捷,讓計(jì)算更高效,實(shí)現(xiàn)普惠數(shù)據(jù)價(jià)值。其具有如下優(yōu)勢(shì):
擁抱開源,降低使用門檻
基于業(yè)界主流開源技術(shù),大華大數(shù)據(jù)平臺(tái)經(jīng)過(guò)深度自研,平臺(tái)全面兼容Hadoop2.X/3.X,并涵蓋Hdfs、Yarn、Hbase、Hive、ZooKeeper、Spark等20+個(gè)組件,為客戶提供高性能、低成本、靈活易用的全棧大數(shù)據(jù)平臺(tái)。
融入云原生,優(yōu)化資源效能
平臺(tái)基于k8s基本架構(gòu),對(duì)全局資源進(jìn)行監(jiān)控、運(yùn)維、分析,從而更合理與充分利用集群計(jì)算資源。平臺(tái)全流程打通實(shí)現(xiàn)yarn on k8s,支持動(dòng)態(tài)資源擴(kuò)縮,讓資源調(diào)度計(jì)算更加高效。
異構(gòu)融合,挖掘數(shù)據(jù)價(jià)值
平臺(tái)將視頻圖像分為非結(jié)構(gòu)化數(shù)據(jù)和結(jié)構(gòu)化數(shù)據(jù),采用統(tǒng)一元數(shù)據(jù)管理,構(gòu)建邏輯數(shù)據(jù)湖,在數(shù)據(jù)不入湖的前提下,實(shí)現(xiàn)跨多種數(shù)據(jù)源的聯(lián)合查詢計(jì)算,并支持對(duì)接多種計(jì)算引擎,打破數(shù)據(jù)孤島,進(jìn)一步挖掘業(yè)務(wù)價(jià)值?;诋悩?gòu)計(jì)算框架,貫通數(shù)據(jù)融合存儲(chǔ)統(tǒng)一應(yīng)用,結(jié)合智能計(jì)算和數(shù)據(jù)計(jì)算構(gòu)建業(yè)務(wù)模型,讓數(shù)據(jù)計(jì)算創(chuàng)造價(jià)值,輔助業(yè)務(wù)向縱深發(fā)展。
智能計(jì)算框架,提升計(jì)算性能
平臺(tái)提供離線,實(shí)時(shí)、流式等多種計(jì)算框架,支持行業(yè)大規(guī)模節(jié)點(diǎn)高復(fù)雜業(yè)務(wù)計(jì)算場(chǎng)景閉環(huán),兼顧數(shù)據(jù)大規(guī)模以及實(shí)時(shí)性,提升數(shù)據(jù)計(jì)算效率,使得數(shù)據(jù)分析結(jié)果可以更高效迅速的展現(xiàn)出來(lái)。計(jì)算框架深度融合GPU能力調(diào)度計(jì)算,AI診斷流式/批處理任務(wù)業(yè)務(wù),提升任務(wù)最優(yōu)資源參數(shù),數(shù)據(jù)庫(kù)執(zhí)行性能全面提升。
多重機(jī)制,保障數(shù)據(jù)安全
管理平臺(tái)集成kerberos與ranger組件,保障集群環(huán)境認(rèn)證統(tǒng)一及用戶權(quán)限精細(xì),SQL任務(wù)權(quán)限管理精細(xì)可控,提升數(shù)據(jù)安全可信可靠。此外,平臺(tái)從冗余結(jié)構(gòu)、數(shù)據(jù)備份、故障預(yù)警等方面考慮,健全完善多層級(jí)容災(zāi)系統(tǒng)結(jié)構(gòu)設(shè)計(jì),提高數(shù)據(jù)的持續(xù)可用性,保障平臺(tái)穩(wěn)定運(yùn)行。
圍繞“Dahua Think# 云聯(lián)萬(wàn)物 數(shù)智未來(lái)”戰(zhàn)略,大華股份將“以數(shù)據(jù)為基礎(chǔ),以業(yè)務(wù)為牽引”,依托自身大數(shù)據(jù)能力和技術(shù)優(yōu)勢(shì),結(jié)合千行百業(yè)數(shù)智解決方案業(yè)務(wù)沉淀,持續(xù)聚焦數(shù)據(jù)智能能力建設(shè)和數(shù)據(jù)安全隱私保護(hù),積極推動(dòng)大數(shù)據(jù)技術(shù)與實(shí)體經(jīng)濟(jì)深度融合,讓數(shù)據(jù)驅(qū)動(dòng)業(yè)務(wù)創(chuàng)新,賦能千行百業(yè)數(shù)智化轉(zhuǎn)型。