亚洲天堂av网_久久精品欧美一区二区三区不卡_亚洲欧美一级_欧美成人合集magnet

知名百科 >> 數據倉庫 >> 歷史版本
編輯時間歷史版本內容長度圖片數目錄數修改原因
2024-05-06 10:43 最新歷史版本 12112 1 6
  返回詞條

數據倉庫

數據倉庫是面向主題的、集成的、穩定的和時變的數據集合。它是一個綜合性的解決方案,主要用于幫助相關部門和業務人員做出更符合業務發展規律的決策。它具有分析歷史數據、集成多個來源的數據以及一致和準確的數據質量的優勢。

數據倉庫的最早概念可以追溯到20世紀70年代,其最初目標是實現企業范圍的集成。比爾。學者Inmon最早將數據倉庫上升到理論層面進行分析,并提出了數據倉庫的概念。數據倉庫在20世紀90年代開始流行。1994年,Ralph Kimball提出了數據集市的概念,允許構建更小、更專用的數據倉庫來解決企業級數據倉庫的實施困難。隨著數據集市的增加,企業面臨著數據一致性的問題。最后,比爾·恩門提出的CIF(企業信息工廠)體系結構將數據集市集成到一個統一的企業信息框架中。

其基本架構包括數據源、數據存儲和計算、OLAP服務器以及前端工具和應用程序。該系統分為邏輯結構、客戶機/服務器(C/S)結構和不同的體系結構模式。它包括五個層次:數據源、數據提取、元數據、數據倉庫管理和數據集市,并涵蓋索引和分區等技術。因為它為最終用戶提供了處理所需決策信息的有效方法,所以它被廣泛應用于銀行、金融服務、消費品和零售及批發部門,以及許多基于需求的產品的生產部門。

目錄

發展歷史

萌芽階段

數據倉庫的最早概念可以追溯到麻省理工學院在20世紀70年代進行的一項研究,該研究致力于開發一個技術框架。麻省理工學院的研究人員曾經提出一個指導意見,建議將業務系統和分析系統分開,將業務處理和分析處理分為不同的級別,并采用單獨的數據存儲和完全不同的設計標準。

20世紀80年代初,數據庫、模型庫和方法庫的概念和方法被初步提出,這與麻省理工學院的研究成果不謀而合,并描述了一個具有決策系統的理想框架。然而,當時數據庫技術還沒有廣泛應用,理論研究多于系統建設,以至于決策支持系統的開發缺乏可操作、可實施的技術、方法和工具。于是在20世紀80年代中后期,DEC作為當時技術最先進的公司,集結眾人研究新的分析系統框架,并結合麻省理工學院的研究,創建了TA2(Technical Architecture 2)規范,推動了數據倉庫的發展。后來在1988年,IBM愛爾蘭公司的巴里·德夫林和保羅·墨菲提出了“信息倉庫”的概念。雖然IBM僅用于市場營銷,尚未在實踐中應用,但數據倉庫的基本原理和體系結構已初步形成,相關技術如關系數據訪問、網絡、客戶機-服務器體系結構和圖形界面也已基本具備。。

發展階段

1991年,比爾·恩門發表了關于數據倉庫的開創性著作,解釋了數據倉庫的必要性和好處,并提供了構建指南。這本書奠定了他在該領域的權威地位,為數據倉庫的基本理論、體系結構和分析原理奠定了基石。

1994年,企業級數據倉庫的設計和實施變得越來越困難,第一家實施數據倉庫的公司遭遇了大規模失敗。因此,數據倉庫的構建者和分析者開始考慮只構建企業級數據倉庫的一部分,然后逐步增加它,但這種想法與比爾·恩門相反。此時,Ralph Kimball提出了數據集市和詳細指導的概念,在傳統關系數據模型和多維OLTP之間建立了良好的橋梁,解決了當前的企業級問題。從那以后,數據集市取代數據倉庫變得流行起來。

1996年,關于“企業級數據倉庫和部門級數據集市”和“關系和多維”出現了“Inmon”和“Kimball”兩個對立的流派。最初,數據集市的成功實施占了上風,但隨著數據集市的增加,企業面臨數據一致性的問題,因此數據集市被視為OLTP系統之一。由于數據集市經常出錯,因此出現了一些新的應用,如數據倉庫、數據集市和ODS。由于概念模糊,數據倉庫被理解為OLTP。直到2001年,比爾·恩門提出的CIF(Corporation Information Factory)體系結構終于將數據集市集成到一個統一的企業信息框架中。

快速發展

21世紀初,隨著互聯網技術的飛速發展,大數據時代即將到來。數據倉庫與大數據的融合也成為當前的發展趨勢。例如,在傳統數據源的基礎上,引入來自傳感器、地理信息、社交網絡等方面的非關系數據,通過Hadoop進行數據處理,利用數據虛擬化技術可以整合不同的數據源,然后利用壓縮技術管理更大規模的數據,從而進一步提供數據分析。隨著數據倉庫技術在大數據場景中的廣泛應用,傳統的數據倉庫工具逐漸被大數據工具取代,如OLAP(在線分析處理)。它是一種呈現綜合決策信息的方法,常用于決策支持系統、商業智能或數據倉庫。其主要功能是便于大規模數據分析和統計并為決策提供參考和支持。

基本架構

數據倉庫的基本架構包括數據源、數據存儲和計算、OLAP服務器以及前端工具和應用程序。數據源主要由來自多個業務系統的數據組成。數據存儲和計算主要負責對數據進行清洗和處理,構建數據倉庫的基礎元數據系統。OLAP服務器主要重組多維數據模型分析所需的數據,支持用戶多角度、多層次的分析。前端工具和應用主要包括數據倉庫的查詢、分析和報表工具以及基于數據倉庫開發的各種應用。

核心成分:數據倉庫的組成主要包括五層:數據源、數據抽取、元數據、數據倉庫管理和數據集市。

數據源:數據倉庫中的數據來自多種數據源,主要來自大中型關系數據庫(如Oracle、SQL Server等。)、桌面數據庫(如Access、FoxBase等。)、文件和其他(如Excel、Word、圖像文件、圖形文件等。)和互聯網上的數據(如網頁和電子郵件數據)。從地理上看,數據源可以分布在不同的區域。在數據結構和數據模式方面,它具有不同的結構形式,在數據內涵方面,它具有不同的語義理解。它們構成了數據倉庫的原始信息源,并為數據倉庫處理數據提供了基本材料。

數據析?。簲祿崛邮菙祿春蛿祿}庫之間的數據接口層。它的任務是將分散在網絡節點中的數據源經過該層處理后,構建一個統一平臺、統一結構和統一語法(語義)的數據實體——數據倉庫。因此,這一層的功能極其重要。它的主要任務是為數據倉庫提供統一的數據并及時更新這些數據。一個完整的數據提取功能包括數據提取、數據轉換和清理、數據加載和刷新,它們構成了數據提取過程的四個連續階段。因為數據抽取由三部分組成:抽取、轉換和加載,所以通常也稱為ETL。

元數據:元數據是指從數據源中的數據到數據倉庫中的數據的轉換過程需要按照一定的規則進行,這些規則往往由一定的規則表示。元數據通常存儲在元數據管理系統中并由其管理。元數據類似于數據庫管理系統中的數據字典,主要用于抽取和刷新,是抽取和刷新的基本依據。

數據倉庫管理:數據倉庫管理一般由數據倉庫管理系統完成,其管理方法類似于傳統的關系數據庫管理系統。因此,傳統的數據庫管理系統一般經過適當的更改后用于數據倉庫管理,例如racle、DB2和SQL Server,它們可以用作數據倉庫管理系統,有時它也可以用于特殊系統管理。

數據集市:數據倉庫是反映主題的全局數據組織,但全局數據組織往往過于龐大。在實際應用中,它們被設置為根據部門或特定任務反映子主題的本地數據組織,這被稱為數據集市。數據集市和數據倉庫的關系相當于傳統數據庫中視圖和數據庫的關系。數據集市的數據來自數據倉庫,數據倉庫是數據倉庫中數據的一部分,通常是直接面向應用的層。

邏輯結構

數據倉庫的邏輯結構包括三個部分:后期數據源、中間數據存儲管理和前期數據分析。

后數據源:主要指操作系統數據存儲,數據倉庫中的數據信息來源廣泛,包括企業的內部數據和外部數據,通過相應的數據存儲進行存儲。

中間數據存儲管理:主要是在定義決策主題需求后,進行數據建模,然后對存儲的數據信息進行清洗和轉換,放入數據倉庫,劃分維度,確定數據倉庫的物理存儲結構。

前置數據分析:是指數據倉庫中的數據經過部門數據中心或多維數據中心,形成對用戶查詢和應用有用的信息。在這個過程中,需要多維分析工具、數據挖掘工具、報表和查詢工具來實現自己的決策支持功能。

C/S結構:通用的C/S結構不僅可以簡化整個工作流程,還可以減少系統的數據傳輸。數據倉庫具有這樣的典型特征,提高了整個數據倉庫的效率??蛻舳说闹饕δ苄枨蟀蛻艚换?、格式化查詢、報表生成等。服務器上的主要功能包括輔助決策查詢、復雜計算等綜合支持功能。

架構模式

星形模式:星型模式是最常見的數據倉庫結構模式,它由一個數據量大且無冗余的大型事實表和一組小型維度表組成。每個維度表都通過主鍵連接到事實表。這個模式圖就像一個恒星爆發,維度表顯示在中心表周圍的射線上。

雪花圖案:雪花圖案是星形圖案的延伸,與雪花的形狀相似。該模型進一步規范了一些維度表,將數據進一步分解為多個詳細的類別表,并減少了事實表。

主要特征

面向主題的:數據倉庫中的數據是按照某個主題領域組織的。主題是一個抽象的概念,是指僅使用數據倉庫進行決策時用戶關心的關鍵領域。面向主題的數據組織方法是在更高層次上對分析對象的數據進行完整、一致的描述,可以完整、統一地刻畫每個分析對象所涉及企業的數據以及數據之間的關系。

數據倉庫數據倉庫

完整的:數據倉庫中的數據主要是對不同來源的數據進行整合,這些數據是在對原始分散的數據庫數據進行提取和清洗的基礎上,經過系統的加工、匯總和整理而得到的。數據倉庫決策支持系統需要集成的數據,而全面正確的數據是有效分析和決策的首要前提。相關數據越完整,結果就越可靠。因此,源數據的集成是數據倉庫建設中最關鍵也是最復雜的一步。

穩定的:數據倉庫中的數據主要用于決策分析,它存儲相對穩定的歷史數據。涉及的數據操作主要是數據查詢和定期更新。一旦某個數據被加載到數據倉庫中,它一般會作為數據文件保存很長時間,并且幾乎不會進行任何修改或刪除。

時變:數據倉庫中的數據通常包含長期歷史數據,因此它總是包含一個時間維度,以便可以研究趨勢和變化。數據倉庫系統通常記錄一個單位從過去某個時期到現在的信息。通常,這些信息可以對該股的發展歷史和未來趨勢做出定量分析和預測。

關鍵環節

數據析?。簲祿崛∈菙祿M入倉庫的入口。由于數據倉庫是一個獨立的數據環境,它需要通過抽取過程從聯機事務處理、外部數據源和脫機數據存儲介質中導入數據。數據抽取主要涉及互聯、復制、增量、轉換、調度和監控。

數據清理:數據清洗是數據倉庫構建的關鍵步驟,主要是消除錯誤和不一致數據以及解決記錄重復問題的過程。因此它也被稱為數據清理和數據擦洗。數據清洗主要應用于數據倉庫、數據挖掘和綜合數據質量管理。

數據變換:數據轉換是將數據源中的數據按照轉換規則轉換為數據倉庫中的數據,轉換規則一般包括數據類型轉換、數據表示方法、命名轉換、數據合成和數據篩選。一般情況下,數據轉換的實現只能通過相應的軟件工具來實現。

數據挖掘技術:數據挖掘是一種從超大型數據庫或數據倉庫中發現和提取隱藏信息的新技術。其目的是幫助決策者發現JUs之間的潛在關系,并找到經營者忽略的因素,這些因素可能是對預測趨勢和決策行為非常有用的信息。

系統設計

數據倉庫系統的設計分為五個步驟,即需求分析、概念模型設計、邏輯模型設計、物理模型設計和數據倉庫生成。

需求分析:它是數據倉庫設計的基礎。在數據倉庫設計之初,我們應該詳細了解需求。

概念模型:它是從現實世界到計算機世界的中間層次。通過概念模型,客觀世界中的具體問題可以用適合計算機世界的語言和模型來描述。

邏輯模型設計:目的是定義每個加載主題的邏輯實現,并將相關內容記錄在數據倉庫的元數據中。

物理模型設計:主要目的是確定數據和其他物理相關內容的存儲結構、索引策略和存儲策略。

數據倉庫的生成:它是構建數據倉庫的重要環節。所需的數據將從數據源中提取出來,并在數據轉換后根據預定義的數據倉庫模型最終加載到數據倉庫中。

相關技術

指數:索引技術的作用是提高數據倉庫的訪問效率。有三種重要的數據倉庫索引技術:位索引技術、廣義索引技術和標識技術。

比特索引技術:位索引是數據倉庫存儲結構中非常重要的索引技術。它在存儲數據的方式上不同于傳統的關系數據庫。它以“示例”而不是“行記錄”為單位存儲數據,也就是說,它垂直劃分數據。對于每條記錄,滿足查詢條件的真值和假值以“1”或“0”的形式表示,或者以該字段中不能取的值(即多位二進制)表示。

廣義指數:在從操作數據環境中提取數據并將其加載到數據倉庫中的同時,可以根據用戶的需求建立各種“廣義索引”。對于一些頻繁的查詢,建立“廣義索引”比查詢事實表快得多。廣義索引一般以元數據的形式存儲,但其建立的目的與普通索引一樣,都是為了幫助用戶快速完成信息查詢。

識別技術:使用標準數據庫技術來存儲數據倉庫是非常昂貴的,而更好的替代方案是使用基于身份的技術來存儲數據倉庫。它的優點是可以壓縮大量數據,索引所有行和列,并且數據越多,識別數據就比基于標準記錄的數據更有優勢。標識技術是為數據庫中的每個實體創建一個標識,原始數據庫可以簡化為一系列標識。識別記錄后,存儲這些記錄的空間將大大減少。此外,數據量越大,標準數據庫和標識數據庫之間的存儲需求差異就越大,基于標識的數據庫的優勢就越明顯。

劃分:數據分區在數據倉庫中非常重要,通常在應用層。它將數據分解成小的物理單元,以便可以在小的離散單元中管理數據。這將使數據倉庫中的數據加載更加容易,索引建立更加順利,數據歸檔更加容易。

應用領域

銀行業務:銀行部門使用數據倉庫進行市場研究、單個產品的性能評估、匯率和匯率研究以及制定營銷計劃。通過分析持卡人的交易、消費習慣和商戶分類,提供利潤豐厚的議價和特殊優惠。銀行家可以通過數據倉庫解決方案有效地處理可用資源。幫助他們做出更好的決策可以更好地檢查消費者數據、政府要求和市場趨勢。甚至一些銀行使用數據倉庫來有效管理其可支配資源。

政府:政府公共部門可以使用數據倉庫進行與會計相關的服務,如薪酬管理、人力資源、招聘等。除了將完整的刑法數據庫連接到下屬的數據倉庫外,政府還可以使用數據倉庫來維護和分析稅務記錄和醫療保險信息。這有助于根據模式和趨勢預測犯罪活動,查找恐怖分子檔案,評估威脅并發現欺詐。從前罪犯的歷史信息的數據分析中獲得的模式和趨勢可用于預測犯罪活動。

制造業生產和流通:制造和分銷供應商可以使用數據倉庫將所有數據集成在一起。這有助于預測市場變化,檢查當前模式,確定潛在的增長領域,并最終做出積極的決策。

零售數據管理:零售商使用數據倉庫來組織數據存儲。這可以密切關注產品、廣告活動和消費者購買模式。此外,您還可以使用預測消除過程通過分析銷售額來確定快銷和滯銷產品線,并計算每個產品線的貨架空間。

保險承保:數據倉庫對于保險業非常重要。它可以保存當前客戶的記錄,并對其進行分析以發現模式。除了跟蹤記錄之外,它主要用于評估數據模式和未來的客戶趨勢。保險促銷和優惠可以為每個客戶量身定制。最后,它最突出的用途是評估承保過程中的客戶風險并設定最佳保險費。

標簽

亚洲天堂av网_久久精品欧美一区二区三区不卡_亚洲欧美一级_欧美成人合集magnet
韩国三级在线一区| 亚洲一区在线观看免费观看电影高清| 欧美日韩成人激情| 1024精品合集| 成人av资源在线观看| 国产精品女同一区二区三区| www.久久久久久久久| 亚洲欧美日韩国产一区二区三区 | 在线免费av一区| 亚洲一二三区不卡| 欧美一卡2卡三卡4卡5免费| 首页欧美精品中文字幕| 日韩视频中午一区| 成人午夜电影久久影院| 午夜久久久久久久久| 国产情人综合久久777777| 欧洲一区二区三区免费视频| 一本久道中文字幕精品亚洲嫩| 婷婷激情综合网| 日韩电影在线观看电影| 久久久99久久| 欧美在线不卡视频| 欧美日韩免费高清一区色橹橹| 欧美日韩国产大片| 日韩欧美亚洲国产另类| 91蜜桃在线免费视频| 免费成人在线观看| 综合精品久久久| 久久尤物电影视频在线观看| 一本色道久久综合亚洲精品按摩| 日本韩国视频一区二区| 成人高清视频免费观看| 色综合视频在线观看| 欧美久久一二三四区| 97精品国产露脸对白| 蜜臀av一区二区| 天堂午夜影视日韩欧美一区二区| 蜜臀av一区二区在线免费观看 | 精品少妇一区二区三区视频免付费 | 亚洲一区二区欧美激情| 天天影视网天天综合色在线播放| 精品一区二区三区香蕉蜜桃| 亚洲亚洲人成综合网络| 久久电影网站中文字幕| 奇米777欧美一区二区| 成人精品在线视频观看| 91精品国产全国免费观看| 国产女人水真多18毛片18精品视频| 亚洲色欲色欲www在线观看| 九九热在线视频观看这里只有精品| 成人激情黄色小说| 日韩欧美一级二级| 一区二区三区中文字幕电影| 成人欧美一区二区三区在线播放| 午夜天堂影视香蕉久久| gogo大胆日本视频一区| 精品少妇一区二区三区日产乱码 | 成人激情视频网站| 欧美tickle裸体挠脚心vk| 亚洲图片有声小说| 91蜜桃免费观看视频| 久久五月婷婷丁香社区| 日韩精品成人一区二区在线| 91福利在线免费观看| 国产精品乱码一区二三区小蝌蚪| 久久成人羞羞网站| 日韩一区二区影院| 午夜精品一区二区三区三上悠亚| 99精品一区二区三区| 久久久亚洲精华液精华液精华液 | 日韩欧美一级精品久久| 亚洲一区二区三区美女| 91麻豆免费视频| 国产精品黄色在线观看| 亚洲一区二区三区中文字幕在线| 国产一区二区三区四区五区入口| 九色综合狠狠综合久久| 91精品国产全国免费观看| 午夜a成v人精品| 欧美三区在线观看| 欧美电影精品一区二区| 日韩中文欧美在线| 欧美日韩不卡在线| 丝袜美腿高跟呻吟高潮一区| 欧美日韩免费不卡视频一区二区三区| 亚洲老司机在线| 日本成人在线看| 日韩一区和二区| 美女视频网站黄色亚洲| 欧美一级生活片| 国内精品视频一区二区三区八戒| 精品成人一区二区三区| 一区二区三区久久久| 91在线无精精品入口| 亚洲精品国产无套在线观| 在线视频你懂得一区| 亚洲午夜免费福利视频| 欧美理论在线播放| 老司机午夜精品| 国产女主播一区| 色婷婷亚洲婷婷| 日韩精品亚洲一区| 久久久久久久久97黄色工厂| 国产成人99久久亚洲综合精品| 欧美三区在线观看| 日韩精品色哟哟| 精品国产伦一区二区三区观看体验 | 26uuu欧美日本| 99久久精品国产观看| 丝袜美腿亚洲色图| 国产欧美精品一区aⅴ影院| 欧美最猛性xxxxx直播| 麻豆成人久久精品二区三区红| 国产日韩欧美制服另类| 欧美性极品少妇| 国产精品久久久久一区二区三区共| av综合在线播放| 天堂久久一区二区三区| 中文字幕精品综合| 经典三级一区二区| 国产精品国产三级国产普通话99 | 美女被吸乳得到大胸91| 国产精品欧美久久久久一区二区 | 日韩欧美国产1| 99久久婷婷国产精品综合| 五月婷婷色综合| 国产精品久久久久久久久免费相片 | 欧美酷刑日本凌虐凌虐| 国产成人亚洲综合a∨婷婷| 欧美精品一区二区不卡| 成人av电影在线观看| 人人精品人人爱| 亚洲卡通动漫在线| 国产欧美日韩精品a在线观看| 欧美另类久久久品| 色噜噜久久综合| 成人国产电影网| 国产一区二区91| 日本亚洲三级在线| 亚洲柠檬福利资源导航| 国产网站一区二区| 日韩欧美一区二区视频| 欧美日韩在线播放一区| 91丨porny丨中文| 国产91在线观看| 国产一区二区三区在线观看精品| 婷婷激情综合网| 亚洲国产精品久久久久秋霞影院| 国产精品久久久久久久久图文区| 日韩美女在线视频| 91精品在线免费观看| 激情综合色播五月| 亚洲成人精品在线观看| 欧美日韩国产综合草草| 一本一道波多野结衣一区二区| 国产91精品入口| 国产成人精品亚洲777人妖| 国产在线视频一区二区| 美美哒免费高清在线观看视频一区二区 | 色综合久久久久| 91在线国产福利| av动漫一区二区| 91丨九色丨尤物| 91福利精品第一导航| 欧美亚洲高清一区二区三区不卡| 99久久精品国产精品久久| 99国产精品视频免费观看| 99re这里只有精品首页| 91一区二区在线| 色欧美日韩亚洲| 欧美综合色免费| 欧美情侣在线播放| 欧美一区二区三区视频| 欧美成人一区二区三区片免费| 精品日韩av一区二区| 久久人人97超碰com| 欧美国产精品v| 亚洲欧美区自拍先锋| 亚洲午夜视频在线| 久久精品99国产国产精| 成人一区二区三区视频| 色噜噜久久综合| 日韩一区二区免费视频| 国产午夜亚洲精品理论片色戒 | 91色视频在线| 欧美日本一区二区三区四区| 日韩欧美色综合网站| 精品国产一区二区三区久久久蜜月 | 黄网站免费久久| 成人蜜臀av电影| 欧美日韩高清一区二区三区| 日韩欧美电影一二三| 久久午夜国产精品| 一区二区三区中文免费| 久久国产尿小便嘘嘘尿| 成人性视频免费网站| 欧美午夜免费电影| 精品91自产拍在线观看一区| 国产亚洲成年网址在线观看| 一区二区三区免费|