數(shù)據(jù)倉庫的前世今生
數(shù)據(jù)倉庫的起源可以追溯到計算機的發(fā)展初期,并且數(shù)據(jù)倉庫是信息技術(shù)長期發(fā)展的產(chǎn)物,在以后也會一直發(fā)展。
一、文件系統(tǒng)
20世紀60年代初期,計算機領(lǐng)域的主要工作是創(chuàng)建運行在主文件上的單個應(yīng)用。這些應(yīng)用是以報表處理和程序為特征的,一般是以某種早期的程序設(shè)計語言如Fortran或COBOL編寫的。主文件存儲在廉價的磁帶上面,其缺點是只能順序訪問。比如我們想得到磁帶上第20分鐘處的數(shù)據(jù),那時必須順序訪問完前面的19分鐘。磁帶在提供廉價存儲的同時,也帶來了數(shù)據(jù)的大量冗余。20世紀60年代中期,大量的主文件帶來了諸多問題,如:
- 更新數(shù)據(jù)時需要保持數(shù)據(jù)的一致性。
- 程序維護的復(fù)雜性。
- 開發(fā)新程序的復(fù)雜性。
- 支持所有主文件需要增加大量的硬件。2 0世紀60年代 - General Mills 和 Dartmouth College 在一個聯(lián)合研究項目中,制定了術(shù)語維度(dimensio ns)和事實(facts)。
二、DASD和DBMS的出現(xiàn)
到了1970年,出現(xiàn)了一種新的存儲和訪問技術(shù),也就是磁盤存儲器,或者稱之為直接存取存儲設(shè)備(Direct Access Storage Device,DASD)。磁盤存儲與磁帶存儲的根本不同在于磁盤上的數(shù)據(jù)能夠直接訪問。DASD要訪問第n+1條記錄,不再需要順序訪問第1、2、3......n條記錄,而是一旦知道了第n+1條記錄的地址,就可以直接訪問它。
隨著DASD的發(fā)展,出現(xiàn)了一種稱為數(shù)據(jù)庫管理系統(tǒng)(Database Management System,DBMS)的新型系統(tǒng)軟件。這種新型軟件目的是使程序員可以方便的在DASD上面進行存儲和訪問。伴隨著DBMS,出現(xiàn)了“數(shù)據(jù)庫”的概念。
1975年 - Sperry Univac推出MAPPER(MAintain,Prepare,Produce Executive Reports),這是一個數(shù)據(jù)庫管理和報告系統(tǒng),其中包括世界上第一個第一個專為建設(shè)信息中心而設(shè)計的平臺4GL(當(dāng)代數(shù)據(jù)倉庫技術(shù)的先驅(qū))
三、數(shù)據(jù)倉庫之父的出現(xiàn)
到了20世紀80年代,涌現(xiàn)了一些更為新穎的技術(shù),比如個人計算機(PC)和第四代編程語言(Fourth-Generation Language,4GL)。隨著PC和4GL的發(fā)展,除了高性能的在線事務(wù)處理之外,人們可以利用數(shù)據(jù)做更多的事情,比如早期的管理信息系統(tǒng)(Management InformationSystem,MIS),如今這種技術(shù)成為DSS。
四、多個單獨數(shù)據(jù)庫
隨著大型在線事務(wù)處理系統(tǒng)問世不久,出現(xiàn)了數(shù)據(jù)抽取技術(shù),可以實現(xiàn)把想要的數(shù)據(jù)從在線事務(wù)處理系統(tǒng)中分離出來,這樣就可以解決數(shù)據(jù)分析性能方面的問題;抽取出來的數(shù)據(jù),給人們在使用數(shù)據(jù)方面帶來了極大的靈活性,我們可以使用這些數(shù)據(jù)做各種分析。
起初,只是對在線事務(wù)處理系統(tǒng)中的數(shù)據(jù)進行抽取。慢慢的人們發(fā)現(xiàn)在抽取結(jié)果中,加上一些條件限制可以更方便的得到想要的數(shù)據(jù)。但此時的“數(shù)據(jù)倉庫”是多個單獨的數(shù)據(jù)庫,在使用過程中慢慢出現(xiàn)了如下問題:
- 數(shù)據(jù)時間不統(tǒng)一
- 抽取程序的差異
- 外部數(shù)據(jù)加載問題
- 無公共起始數(shù)據(jù)源
以上問題就會有可能導(dǎo)致,不同部門抽取數(shù)據(jù)的差異,從而到時分析結(jié)果的不同。
五、數(shù)據(jù)倉庫
當(dāng)人們意識到無休止的抽取帶來諸多問題后,開始思考是否可以建立成體系的機構(gòu)化環(huán)境,以減少數(shù)據(jù)的差異,這也就是數(shù)據(jù)倉庫出現(xiàn)的原因。數(shù)據(jù)倉庫從操作型數(shù)據(jù)庫中抽取數(shù)據(jù),通過規(guī)范的加工過程,得到粒度化數(shù)據(jù),并且這些數(shù)據(jù)時面向主題、集成、不易失、隨時間變化的數(shù)據(jù)。在數(shù)據(jù)倉庫的基礎(chǔ)上,可以建立不同分析角度的BI報表系統(tǒng)。
隨著大數(shù)據(jù)的出現(xiàn),阿里大數(shù)據(jù)技術(shù)人的宣傳,加上出版的一些書籍(大數(shù)據(jù)之路)對此數(shù)據(jù)倉庫的傳播都有著巨大的推動。
免責(zé)聲明:本文內(nèi)容由21ic獲得授權(quán)后發(fā)布,版權(quán)歸原作者所有,本平臺僅提供信息存儲服務(wù)。文章僅代表作者個人觀點,不代表本平臺立場,如有問題,請聯(lián)系我們,謝謝!