大數(shù)據(jù)的下一步是什么?混合服務(wù)/分析處理(HSAP)
混合服務(wù)/分析處理(HSAP)具有強(qiáng)大的分析能力,那么會(huì)取代大數(shù)據(jù)技術(shù)嗎?大數(shù)據(jù)的下一步發(fā)展是什么?
由于側(cè)重點(diǎn)不同,傳統(tǒng)數(shù)據(jù)庫可以分為以事務(wù)為中心的聯(lián)機(jī)事務(wù)處理 (OLTP) 系統(tǒng)和以分析為中心的聯(lián)機(jī)分析處理(OLAP)系統(tǒng)。隨著國(guó)際互聯(lián)網(wǎng)的發(fā)展,數(shù)據(jù)量呈指數(shù)級(jí)增長(zhǎng),離線數(shù)據(jù)庫已經(jīng)無法滿足企業(yè)的業(yè)務(wù)需求。特別是在分析領(lǐng)域,查詢可能需要遍歷大部分?jǐn)?shù)據(jù)甚至全部數(shù)據(jù),而海量數(shù)據(jù)帶來的壓力使得采用新技術(shù)變得尤為緊迫。這推動(dòng)了過去十年左右以Hadoop技術(shù)開始的大數(shù)據(jù)革命,并滿足了對(duì)海量數(shù)據(jù)分析的需求。與此同時(shí),在數(shù)據(jù)庫領(lǐng)域出現(xiàn)了幾種分布式數(shù)據(jù)庫產(chǎn)品,以應(yīng)對(duì)聯(lián)機(jī)事務(wù)處理 (OLTP)場(chǎng)景數(shù)據(jù)的增長(zhǎng)。
為了分析聯(lián)機(jī)事務(wù)處理 (OLTP)系統(tǒng)中的數(shù)據(jù),標(biāo)準(zhǔn)做法是定期(例如每天)將聯(lián)機(jī)事務(wù)處理 (OLTP)系統(tǒng)中的數(shù)據(jù)同步到聯(lián)機(jī)分析處理(OLAP)系統(tǒng)。該架構(gòu)確保分析查詢不會(huì)影響在線事務(wù)處理。但是,定期同步導(dǎo)致分析結(jié)果并不是基于最新數(shù)據(jù),并且這種延遲可能使企業(yè)失去及時(shí)做出業(yè)務(wù)決策的機(jī)會(huì)。為了解決這個(gè)問題,近年來出現(xiàn)了混合事務(wù)分析處理(HTAP)架構(gòu),它使企業(yè)能夠直接分析聯(lián)機(jī)事務(wù)處理 (OLTP)數(shù)據(jù)庫中的數(shù)據(jù),從而確保分析的及時(shí)性。分析不再是傳統(tǒng)聯(lián)機(jī)分析處理(OLAP)系統(tǒng)或大數(shù)據(jù)系統(tǒng)的獨(dú)特功能。那么一個(gè)問題是:由于混合事務(wù)分析處理(HTAP)具有分析能力,它將取代大數(shù)據(jù)系統(tǒng)嗎?大數(shù)據(jù)的下一站是什么?
背景介紹
為了回答這個(gè)問題,以下將以推薦系統(tǒng)為例來分析大數(shù)據(jù)系統(tǒng)的典型場(chǎng)景。
當(dāng)購(gòu)物應(yīng)用程序推薦人們想要購(gòu)買的商品,以及播放喜歡的音樂時(shí),推薦系統(tǒng)將發(fā)揮其神奇的作用。高級(jí)推薦系統(tǒng)的核心目標(biāo)是根據(jù)用戶的實(shí)時(shí)行為進(jìn)行個(gè)性化推薦。用戶與系統(tǒng)之間的每次交互都會(huì)實(shí)時(shí)優(yōu)化下一次體驗(yàn)。為了支持這樣的系統(tǒng),大數(shù)據(jù)技術(shù)堆棧已經(jīng)發(fā)展成為一個(gè)非常復(fù)雜且分散的系統(tǒng)。
為了提供高質(zhì)量的實(shí)時(shí)個(gè)性化推薦,推薦系統(tǒng)非常依賴于實(shí)時(shí)功能和模型的持續(xù)更新。
實(shí)時(shí)功能可以分為兩類:
推薦系統(tǒng)將收集大量用戶行為事件(如瀏覽、點(diǎn)擊等)和交易記錄(如從OLTP數(shù)據(jù)庫同步的支付記錄等)。這些數(shù)據(jù)量非常大(流量可能高達(dá)每秒數(shù)千萬甚至數(shù)億條),而且大部分?jǐn)?shù)據(jù)都不是來自交易系統(tǒng)。為了方便以后的使用,這些數(shù)據(jù)將導(dǎo)入到系統(tǒng)中,同時(shí)將它們與各種維度表數(shù)據(jù)相關(guān)聯(lián),推導(dǎo)出一系列重要特征,并實(shí)時(shí)更新到推薦系統(tǒng)中,優(yōu)化用戶體驗(yàn)。這里的實(shí)時(shí)維度表關(guān)聯(lián)需要低延遲和高吞吐量的點(diǎn)檢查支持,以跟上新生成的數(shù)據(jù)。 推薦系統(tǒng)還將使用滑動(dòng)窗口和其他方法來計(jì)算各種維度和時(shí)間粒度的特征(例如,過去5分鐘的點(diǎn)擊次數(shù),過去7天的觀看次數(shù),以及過去30天內(nèi)某一商品的銷售額等)。根據(jù)滑動(dòng)窗口的粒度,這些聚合可以通過流計(jì)算或批處理來完成。
這些數(shù)據(jù)還用于生成實(shí)時(shí)和離線的機(jī)器學(xué)習(xí)樣本,經(jīng)過驗(yàn)證的模型將在推薦系統(tǒng)中不斷更新。
以上解釋的是高級(jí)推薦系統(tǒng)的核心部分,但這只是整個(gè)系統(tǒng)的冰山一角。此外,還需要一套完整的系統(tǒng),如實(shí)時(shí)模型監(jiān)控、驗(yàn)證、分析和調(diào)整,其中包括:使用實(shí)時(shí)大屏幕查看A/B測(cè)試結(jié)果、使用交互式分析用于商業(yè)智能,以及優(yōu)化和調(diào)整模型。此外,運(yùn)營(yíng)部門還將使用各種復(fù)雜的查詢來深入了解業(yè)務(wù)進(jìn)展情況,并利用客戶定位和產(chǎn)品推薦進(jìn)行有針對(duì)性的營(yíng)銷。
這個(gè)例子展示了一個(gè)非常復(fù)雜但典型的大數(shù)據(jù)場(chǎng)景,從實(shí)時(shí)數(shù)據(jù)導(dǎo)入到預(yù)聚合,從數(shù)據(jù)服務(wù)、連續(xù)聚合、到交互式查詢?cè)俚脚幚?。這種復(fù)雜的場(chǎng)景對(duì)大數(shù)據(jù)系統(tǒng)的需求非常多樣化。在構(gòu)建這些系統(tǒng)的實(shí)踐中,可以看到兩個(gè)新趨勢(shì)。
(1)實(shí)時(shí):業(yè)務(wù)需要從剛剛收集的數(shù)據(jù)中快速獲得業(yè)務(wù)洞察力。寫入的數(shù)據(jù)需要在幾秒鐘內(nèi)可見。漫長(zhǎng)的離線ETL(抽取、轉(zhuǎn)換、加載)流程變得令人無法忍受。與此同時(shí),所收集的數(shù)據(jù)遠(yuǎn)遠(yuǎn)超過從聯(lián)機(jī)分析處理(OLAP)系統(tǒng)同步的數(shù)據(jù),事件日志數(shù)據(jù)(例如用戶瀏覽和單擊)甚至比其大幾個(gè)數(shù)量級(jí)。企業(yè)的系統(tǒng)需要能夠提供低延遲查詢功能,同時(shí)以極高的吞吐量寫入數(shù)據(jù)。
(2)混合服務(wù)和分析:傳統(tǒng)的聯(lián)機(jī)分析處理(OLAP)系統(tǒng)通常在業(yè)務(wù)中扮演相對(duì)靜態(tài)的角色??梢酝ㄟ^分析數(shù)據(jù)來獲得業(yè)務(wù)洞察力(例如預(yù)先計(jì)算的視圖和模型等),并基于獲取的知識(shí)通過另一個(gè)系統(tǒng)提供在線數(shù)據(jù)服務(wù)。這里的服務(wù)和分析是一個(gè)分散的過程。與其相反,理想的業(yè)務(wù)決策過程通常是持續(xù)優(yōu)化的在線過程。服務(wù)過程將生成大量新數(shù)據(jù),需要對(duì)這些新數(shù)據(jù)進(jìn)行復(fù)雜的分析。分析產(chǎn)生的見解會(huì)實(shí)時(shí)反饋給服務(wù),以創(chuàng)造更大的商業(yè)價(jià)值。服務(wù)和分析正在形成一個(gè)閉環(huán)。
現(xiàn)有解決方案通過一系列產(chǎn)品的組合來滿足實(shí)時(shí)服務(wù)/分析融合的需求。例如,通過Apache Flink進(jìn)行數(shù)據(jù)的實(shí)時(shí)預(yù)聚合,聚合的數(shù)據(jù)將存儲(chǔ)在提供多維分析的產(chǎn)品(如Apache Druid)中,而數(shù)據(jù)服務(wù)將通過諸如Apache HBase之類的產(chǎn)品提供。這種煙囪開發(fā)模式將不可避免地生成數(shù)據(jù)孤島,從而導(dǎo)致不必要的數(shù)據(jù)重復(fù)。各種產(chǎn)品之間復(fù)雜的數(shù)據(jù)同步也使數(shù)據(jù)的一致性和安全性成為一個(gè)挑戰(zhàn)。這種復(fù)雜性使應(yīng)用程序開發(fā)難以快速響應(yīng)新需求,影響了業(yè)務(wù)的迭代速度,還給開發(fā)、操作和維護(hù)帶來了額外的大量開銷。
專家認(rèn)為,實(shí)時(shí)服務(wù)/分析集成應(yīng)通過統(tǒng)一的混合服務(wù)/分析處理(HSAP)系統(tǒng)實(shí)現(xiàn)。通過這樣一個(gè)系統(tǒng),應(yīng)用開發(fā)不再需要處理多個(gè)不同的產(chǎn)品,也不再需要學(xué)習(xí)和應(yīng)用每個(gè)產(chǎn)品的問題和局限性,可以顯著簡(jiǎn)化業(yè)務(wù)架構(gòu),提高開發(fā)和運(yùn)行效率。這樣一個(gè)統(tǒng)一的系統(tǒng)可以避免不必要的數(shù)據(jù)重復(fù),從而節(jié)省成本。同時(shí),該體系結(jié)構(gòu)還可以為系統(tǒng)帶來二級(jí)甚至亞二級(jí)的實(shí)時(shí)性能,使業(yè)務(wù)決策更加實(shí)時(shí),從而使數(shù)據(jù)發(fā)揮更大的商業(yè)價(jià)值。
盡管分布式混合服務(wù)/分析處理(HSAP)系統(tǒng)具有實(shí)時(shí)分析功能,但無法解決大數(shù)據(jù)的問題。
首先,事務(wù)系統(tǒng)同步的數(shù)據(jù)只是實(shí)時(shí)推薦系統(tǒng)需要處理的數(shù)據(jù)中的一小部分。大多數(shù)其他數(shù)據(jù)來自日志等非事務(wù)系統(tǒng)(用戶在每次購(gòu)買前通常有幾十甚至數(shù)百次的瀏覽行為)。大多數(shù)分析都是在這些非事務(wù)數(shù)據(jù)上進(jìn)行的。但是,混合事務(wù)分析處理(HTAP)系統(tǒng)沒有這部分?jǐn)?shù)據(jù),因此無法進(jìn)行分析。
這些非事務(wù)數(shù)據(jù)能否寫入混合事務(wù)分析處理(HTAP)系統(tǒng)進(jìn)行分析?以下分析一下混合事務(wù)分析處理(HTAP)系統(tǒng)和混合服務(wù)/分析處理(HSAP)系統(tǒng)在數(shù)據(jù)寫入模式上的差異?;旌鲜聞?wù)分析處理(HTAP)系統(tǒng)的基礎(chǔ)和優(yōu)勢(shì)是支持細(xì)粒度的分布式事務(wù)。事務(wù)性數(shù)據(jù)通常以許多分布式小事務(wù)的形式寫入混合事務(wù)分析處理(HTAP)系統(tǒng)。但是,來自日志和其他系統(tǒng)的數(shù)據(jù)并沒有細(xì)粒度分布式事務(wù)的語義。如果要將這些非事務(wù)性數(shù)據(jù)導(dǎo)入到混合事務(wù)分析處理(HTAP)系統(tǒng)中,必然會(huì)帶來不必要的開銷。
與其相反,混合服務(wù)/分析處理(HSAP)系統(tǒng)不需要這種高頻分布式的事務(wù)?;旌戏?wù)/分析處理(HSAP)系統(tǒng)中通常有兩種數(shù)據(jù)寫入模式:
(1)海量單筆記錄的實(shí)時(shí)寫入;
(2)頻率相對(duì)較低的分布式批處理數(shù)據(jù)寫入。
這使混合服務(wù)/分析處理(HSAP)系統(tǒng)可以進(jìn)行一系列優(yōu)化設(shè)計(jì),從而提高成本效益,并避免由于將非事務(wù)性數(shù)據(jù)導(dǎo)入混合事務(wù)分析處理(HTAP)系統(tǒng)而導(dǎo)致的不必要的開銷。
即使企業(yè)不在乎這些支出,假設(shè)可以不計(jì)成本地將所有數(shù)據(jù)寫入混合事務(wù)分析處理(HTAP)系統(tǒng)中,那么能否解決問題?其答案是否定的。
支持聯(lián)機(jī)事務(wù)處理 (OLTP)方案是混合事務(wù)分析處理(HTAP)系統(tǒng)的先決條件。為此,混合事務(wù)分析處理(HTAP)系統(tǒng)通常采用基于行存儲(chǔ)的數(shù)據(jù)格式,而基于行存儲(chǔ)中的分析查詢效率大大低于列存儲(chǔ)。具有分析能力并不等于能夠有效分析,為了提供有效的分析功能,混合事務(wù)分析處理(HTAP)系統(tǒng)必須將大量非事務(wù)數(shù)據(jù)復(fù)制到列存儲(chǔ)中,但這勢(shì)必帶來大量成本。最好以較低的成本將少量事務(wù)數(shù)據(jù)復(fù)制到混合服務(wù)/分析處理(HSAP)系統(tǒng),同時(shí),可以更好地避免對(duì)在線事務(wù)系統(tǒng)的影響。
因此,混合服務(wù)/分析處理(HSAP)和混合事務(wù)分析處理(HTAP)將會(huì)互補(bǔ),并將分別引領(lǐng)數(shù)據(jù)庫和大數(shù)據(jù)的發(fā)展方向。
混合服務(wù)/分析處理(HSAP)面臨的挑戰(zhàn)
作為一種全新的架構(gòu),混合服務(wù)/分析處理(HSAP)面臨著與現(xiàn)有大數(shù)據(jù)和傳統(tǒng)聯(lián)機(jī)分析處理(OLAP)系統(tǒng)截然不同的挑戰(zhàn)。
高并發(fā)混合工作負(fù)載:混合服務(wù)/分析處理(HSAP)系統(tǒng)需要處理的并發(fā)查詢遠(yuǎn)遠(yuǎn)超出了傳統(tǒng)的聯(lián)機(jī)分析處理(OLAP)系統(tǒng)。
實(shí)際上,數(shù)據(jù)服務(wù)的并發(fā)性遠(yuǎn)遠(yuǎn)超出了聯(lián)機(jī)分析處理(OLAP)查詢。例如,人們?cè)趯?shí)踐中已經(jīng)看到,數(shù)據(jù)服務(wù)每秒需要處理數(shù)千萬個(gè)查詢,這比聯(lián)機(jī)分析處理(OLAP)查詢的并發(fā)性要高出5個(gè)數(shù)量級(jí)。同時(shí),與聯(lián)機(jī)分析處理(OLAP)查詢相比,數(shù)據(jù)服務(wù)查詢對(duì)延遲的要求更加嚴(yán)格。而且,更大的挑戰(zhàn)是系統(tǒng)在提供數(shù)據(jù)服務(wù)查詢的同時(shí)需要處理非常復(fù)雜的分析查詢。這些混合查詢有效載荷在延遲和吞吐量之間具有不同的權(quán)衡。如何有效利用系統(tǒng)資源來處理這些完全不同的查詢,并確保每個(gè)查詢的服務(wù)水平目標(biāo)(SLO)是一個(gè)巨大的挑戰(zhàn)。
混合服務(wù)/分析處理(HSAP)系統(tǒng)在處理高并發(fā)查詢負(fù)載的同時(shí),還需要支持海量數(shù)據(jù)的實(shí)時(shí)寫入。實(shí)時(shí)寫入的數(shù)據(jù)量遠(yuǎn)遠(yuǎn)超過了傳統(tǒng)聯(lián)機(jī)分析處理(OLAP)系統(tǒng)的要求。例如,以上實(shí)時(shí)推薦場(chǎng)景將持續(xù)每秒寫入數(shù)千萬甚至數(shù)億個(gè)事件。與傳統(tǒng)聯(lián)機(jī)分析處理(OLAP)系統(tǒng)的另一個(gè)區(qū)別是混合服務(wù)/分析處理(HSAP)系統(tǒng)對(duì)實(shí)時(shí)數(shù)據(jù)的要求很高。為了確保服務(wù)和分析結(jié)果的效率,其書面數(shù)據(jù)需要在幾秒鐘甚至幾秒鐘內(nèi)可見。
靈活性和可擴(kuò)展性:數(shù)據(jù)寫入和查詢的負(fù)載可能會(huì)出現(xiàn)突發(fā)峰值,這對(duì)系統(tǒng)的靈活性和可擴(kuò)展性提出了很高的要求。在實(shí)際應(yīng)用中,注意到數(shù)據(jù)寫入的峰值可以達(dá)到平均值的2.5倍,查詢的峰值可以達(dá)到平均值的3倍。此外,數(shù)據(jù)寫入和查詢的峰值不一定同時(shí)出現(xiàn),這也要求系統(tǒng)具有根據(jù)不同峰值進(jìn)行快速調(diào)整的能力。
混合服務(wù)/分析處理(HSAP)的系統(tǒng)設(shè)計(jì)
為了應(yīng)對(duì)這些挑戰(zhàn),典型的混合服務(wù)/分析處理(HSAP)系統(tǒng)可以采用以上相似的架構(gòu)。
存儲(chǔ)和計(jì)算的存儲(chǔ)分解:所有數(shù)據(jù)都存儲(chǔ)在分布式文件系統(tǒng)中,企業(yè)通過切分來擴(kuò)展系統(tǒng)。存儲(chǔ)管理器將管理這些碎片。資源管理器對(duì)系統(tǒng)的計(jì)算資源進(jìn)行管理,保證系統(tǒng)能夠處理高吞吐量的數(shù)據(jù)寫入和查詢要求。該架構(gòu)可以隨著工作負(fù)載的變化而快速擴(kuò)展,當(dāng)查詢負(fù)載變大時(shí)可以擴(kuò)展計(jì)算資源,當(dāng)數(shù)據(jù)量快速增長(zhǎng)時(shí),可以快速擴(kuò)展存儲(chǔ)資源。存儲(chǔ)和計(jì)算的分離確保了這些操作可以快速完成,而無需等待數(shù)據(jù)的移動(dòng)/復(fù)制。該架構(gòu)顯著簡(jiǎn)化了操作和維護(hù),為系統(tǒng)的穩(wěn)定性提供了保證。 統(tǒng)一實(shí)時(shí)存儲(chǔ):為了支持各種查詢模式,統(tǒng)一的實(shí)時(shí)存儲(chǔ)層至關(guān)重要。查詢可以大致分為兩種類型,一種是點(diǎn)查詢(其中大多數(shù)是數(shù)據(jù)服務(wù)類型),另一種是掃描大量數(shù)據(jù)的復(fù)雜分析查詢(其中大多數(shù)是分析類型)。當(dāng)然,兩者之間有許多查詢。這兩種查詢類型也對(duì)數(shù)據(jù)存儲(chǔ)提出了不同的要求?;谛械拇鎯?chǔ)可以更有效地支持點(diǎn)查詢,而列存儲(chǔ)在支持具有大量掃描的查詢中具有明顯的優(yōu)勢(shì)。需要在行存儲(chǔ)和列存儲(chǔ)之間做出折衷,但其代價(jià)是在檢查和掃描數(shù)據(jù)的情況下無法獲得優(yōu)質(zhì)性能。希望在兩種情況下都能達(dá)到優(yōu)質(zhì)效果,因此系統(tǒng)同時(shí)支持行存儲(chǔ)和列存儲(chǔ),并且用戶可以根據(jù)方案選擇每個(gè)表的存儲(chǔ)。對(duì)于同時(shí)具有兩個(gè)需求的表,允許用戶通過索引抽象同時(shí)選擇兩種存儲(chǔ),系統(tǒng)通過索引維護(hù)機(jī)制確保兩者之間的一致性。在實(shí)踐中,發(fā)現(xiàn)此設(shè)計(jì)帶來的效率和靈活性可以更好地支持業(yè)務(wù)。
工作負(fù)載隔離
通過計(jì)劃來保證在混合工作負(fù)載下系統(tǒng)的服務(wù)水平目標(biāo)(SLO)。在理想情況下,大型查詢應(yīng)該能夠利用所有資源。當(dāng)多個(gè)查詢同時(shí)運(yùn)行時(shí),這些查詢需要公平地共享資源。由于面向服務(wù)的點(diǎn)查找查詢通常相對(duì)簡(jiǎn)單,并且需要較少的資源,因此這種公平的調(diào)度機(jī)制可以確保即使存在復(fù)雜的分析查詢,也仍然可以保證面向服務(wù)的查詢的等待時(shí)間。作為分布式系統(tǒng),調(diào)度可以分為分布式調(diào)度和過程調(diào)度。協(xié)調(diào)器將查詢分解為多個(gè)任務(wù),這些任務(wù)分配給不同的進(jìn)程。協(xié)調(diào)人員需要采取某些策略來確保公平。同樣重要的是,企業(yè)還需要允許不同的任務(wù)在流程中公平地共享資源。由于操作系統(tǒng)不了解任務(wù)之間的關(guān)系,因此在每個(gè)進(jìn)程中都實(shí)現(xiàn)了一個(gè)用戶狀態(tài)調(diào)度程序,以更靈活地支持工作負(fù)載隔離。
系統(tǒng)的開放性
許多企業(yè)已經(jīng)使用了其他存儲(chǔ)平臺(tái)或計(jì)算引擎,因此新系統(tǒng)必須考慮與現(xiàn)有系統(tǒng)的集成。查詢、計(jì)算和存儲(chǔ)的集成需要很高的時(shí)間效率,可以帶來明顯的優(yōu)勢(shì)。但是,對(duì)于沒有高時(shí)間效率的脫機(jī)計(jì)算,存儲(chǔ)層可以提供一個(gè)統(tǒng)一的接口來打開數(shù)據(jù),這使得其他引擎能夠提取數(shù)據(jù)進(jìn)行處理,并給業(yè)務(wù)帶來更大的靈活性。開放性的另一方面是處理存儲(chǔ)在其他系統(tǒng)中的數(shù)據(jù)的能力,這可以通過聯(lián)合查詢來實(shí)現(xiàn)。
混合服務(wù)/分析處理(HSAP)的應(yīng)用
以下將分享阿里巴巴集團(tuán)的搜索推薦優(yōu)化運(yùn)營(yíng)業(yè)務(wù)。
原始搜索推薦完善的運(yùn)營(yíng)業(yè)務(wù)架構(gòu)
可以通過一系列存儲(chǔ)和計(jì)算引擎(HBase、Druid、Hive、Drill、Redis等)的復(fù)雜協(xié)作來滿足業(yè)務(wù)需求,多個(gè)存儲(chǔ)需要通過數(shù)據(jù)同步任務(wù)來保持近似同步。這種業(yè)務(wù)架構(gòu)極其復(fù)雜,整個(gè)業(yè)務(wù)架構(gòu)的開發(fā)需要大量的時(shí)間。
升級(jí)搜索推薦優(yōu)化運(yùn)營(yíng)業(yè)務(wù)架構(gòu)
阿里巴巴2019年的網(wǎng)站購(gòu)物購(gòu)買額超過2684億元人民幣(379.6億美元),而阿里巴巴已在2019年的“雙十一”通過混合服務(wù)/分析處理(HSAP)系統(tǒng)對(duì)其業(yè)務(wù)進(jìn)行了升級(jí)?;旌戏?wù)/分析處理(HSAP)系統(tǒng)總共支持1.45億個(gè)在線查詢,這進(jìn)一步支持了非常復(fù)雜的業(yè)務(wù)的分析和決策過程,同時(shí),這些分析背后還包含具有1.3億個(gè)實(shí)際數(shù)據(jù)的大規(guī)模數(shù)據(jù)記錄而不會(huì)生成冗余數(shù)據(jù)。
阿里巴巴新的架構(gòu)更加簡(jiǎn)化。用戶、商品、商家的數(shù)據(jù)和大量用戶行為數(shù)據(jù)從在線和離線ETL進(jìn)入混合服務(wù)/分析處理(HSAP)系統(tǒng)?;旌戏?wù)/分析處理(HSAP)系統(tǒng)提供查詢和分析服務(wù),例如實(shí)時(shí)數(shù)據(jù)可視化、實(shí)時(shí)報(bào)告、效果跟蹤、實(shí)時(shí)數(shù)據(jù)應(yīng)用等。它通過提供實(shí)時(shí)數(shù)據(jù)可視化、實(shí)時(shí)銷售等服務(wù)幫助做出更好的決策。預(yù)測(cè)、實(shí)時(shí)庫存監(jiān)控、實(shí)時(shí)商業(yè)智能報(bào)告、實(shí)時(shí)監(jiān)控業(yè)務(wù)進(jìn)度、監(jiān)控運(yùn)營(yíng)增長(zhǎng)、跟蹤算法效果、實(shí)時(shí)標(biāo)簽、實(shí)時(shí)肖像、競(jìng)爭(zhēng)分析、客戶定位、產(chǎn)品推薦以及獎(jiǎng)金分配等數(shù)據(jù)產(chǎn)品有助于精確的運(yùn)營(yíng)和決策。實(shí)時(shí)數(shù)據(jù)服務(wù)支持算法控制、庫存監(jiān)視和預(yù)警以及其他服務(wù)。一套混合服務(wù)/分析處理(HSAP)系統(tǒng)實(shí)現(xiàn)了所有渠道和所有過程的數(shù)據(jù)共享和重用,從而從運(yùn)營(yíng)商、產(chǎn)品所有者、算法所有者、開發(fā)人員、分析師或高級(jí)經(jīng)理的不同業(yè)務(wù)角度解決了數(shù)據(jù)分析和查詢要求。
通過提供統(tǒng)一的實(shí)時(shí)存儲(chǔ)而不需要任何數(shù)據(jù)復(fù)制,混合服務(wù)/分析處理(HSAP)架構(gòu)為點(diǎn)查找查詢、聯(lián)機(jī)分析處理(OLAP)分析、在線數(shù)據(jù)服務(wù)以及其他各種查詢和服務(wù)提供了一站式服務(wù)。這種新的架構(gòu)顯著降低了應(yīng)用程序的復(fù)雜性,并使企業(yè)能夠快速響應(yīng)新的業(yè)務(wù)需求。實(shí)時(shí)性能中的秒級(jí)甚至亞秒級(jí)延遲使決策更加迅速和高效,從而允許數(shù)據(jù)創(chuàng)造更大的商業(yè)價(jià)值。