《電子技術應用》
您所在的位置:首頁 > 其他 > 設計應用 > 基于OLAP技術的污染源在線監測數據分析系統
基于OLAP技術的污染源在線監測數據分析系統
來源:微型機與應用2012年第6期
朱亞興
(廣東科學技術職業學院, 廣東 珠海519090)
摘要: 污染源在線監測數據分析系統基于污染源管理綜合系統數據庫提供的數據源,經過數據清洗、轉換,加載到數據倉庫中,進行主題設計與多維建模,采用OLAP技術實現海量數據展示、分析統計,同時提供功能強大的共享查詢、多維分析和污染源企業排口監測因子預警、事件自動提醒及各類數據報表統計等,提高了減排工作信息化的水平和工作效率。
Abstract:
Key words :

摘  要: 污染源在線監測數據分析系統基于污染源管理綜合系統數據庫提供的數據源,經過數據清洗、轉換,加載到數據倉庫中,進行主題設計與多維建模,采用OLAP技術實現海量數據展示、分析統計,同時提供功能強大的共享查詢、多維分析和污染源企業排口監測因子預警、事件自動提醒及各類數據報表統計等,提高了減排工作信息化的水平和工作效率。
關鍵詞: 聯機分析處理; 數據倉庫; 多維分析

    根據國家環保總局《關于制定主要污染物總量減排年度計劃的通知》(環辦[2007]33號)要求,及廣東省人民政府《關于加強我省主要污染物總量控制工作的實施意見》(粵府辦[2007]118號),對已建成在線監控設備的企業提出了考核要求。為加強減排工作信息化,提高工作效率,強化數據處理能力,完善在線監測數據庫,同時結合“減排”工作的需要,需建立在線監控數據上報及聯機數據分析系統。
1 聯機分析系統研究
    聯機分析處理OLAP(On Line Analytical Processing)的概念最早是由關系數據庫之父CODD E F于1993年提出的。當時,CODD認為聯機事務處理OLTP(On Line Transactioinal Processing)已不能滿足終端用戶對數據庫查詢分析的需要,用戶的決策分析需要對關系數據庫進行大量計算才能得到結果,因此提出了多維數據庫和多維分析的概念,即OLAP[1-3]。OLAP是數據倉庫系統的主要應用,支持復雜的分析操作,為人們提供直觀易懂的查詢結果[1]。
    OLAP服務器一般作為數據倉庫系統的中間層和用戶預定義的多維數據視圖,對數據倉庫的信息進行統計分析處理,為具有明確分析范圍和分析要求的用戶提供高性能的決策支持[2]。OLAP技術通過基本多維分析操作為用戶提供一幅幅直觀的視圖。常用的多維分析操作有鉆取、切片、切塊和旋轉等。
2 系統需求及功能概述
    污染源在線監測數據分析系統基于污染源管理綜合系統數據庫提供的數據,要求將系統監控數據收集到分析數據庫中,實時分析監測數據,即時發現數據異動發出報警,實現數據分析、發布上報和報警,同時提供功能強大的即席查詢和統計分析能力,提高工作效率。
    系統主要功能模塊劃分為:實時監測和異常報警、事件提醒及待辦處理、數據分析、設備維護、數據同步和系統管理。
     實時監測和異常報警功能模塊包括對數百家重點企業進行實時排污監控,主要是排水和排氣。每家排污企業根據其行業類別、生產工藝等不同設立了不同監測因子和排放范圍,當企業的排放超出了設定的排放標準或產生其他異動狀況,系統及時發出警報,并向值班人員發送短信提醒;發現設備運行異常時通知運營單位進行檢修,填寫設備異常報告等。
    事件提醒及待辦處理功能模塊包括:當系統偵測發生異常和設備維護等事件時,系統自動提醒用戶;由用戶輸入相應事件處理的日程安排。
    數據統計分析功能包括對污染源企業、監測因子排放、現場巡視、企業生產異常事件、污染源排放、超標排放、掉電情況、超標率等統計分析等。
    數據同步功能分為業務數據更新后同步和數據補登后數據同步。
    系統管理功能模塊包括用戶管理、角色管理、權限分配和系統參數設置等功能。只能由系統管理員操作使用。
3 在線監測與分析系統數據倉庫設計
3.1數據倉庫設計框架

    數據倉庫的設計為決策、分析及高效管理提供保障和服務,是系統在線監測與分析的基礎與核心。
    本系統的數據倉庫設計總體框架如圖1所示,按照數據獲取層、數據存儲層、數據展現層模式建設。其好處是層次分明,層次之間松耦合,保證整個系統的穩定運行,并方便維護和功能的擴展工作。

 

 

    數據獲取層  從污染源管理綜合數據庫中獲取的數據作為數據源,經過必要的抽取、清洗、轉換等處理后加載到數據倉庫系統中,即ETL(Extraction Transformation Loading)過程。本系統關于數據抽取和轉換使用基于商業智能的開源工具Kettle ETL對多種不同數據源、不同格式的數據進行清洗、轉換、加載等繁雜工作。
    數據存儲層  包括數據倉庫和從屬的數據集市。數據倉庫是信息的邏輯和物理的存儲。在數據倉庫實施過程中,對于某些主題業務的分析問題,按照主題采用數據集市的方式對數據進行進一步的組織。在中央數據倉庫的基礎上根據分析需求創建相應的從屬數據集市。
    數據展現層  通過對數據存儲層的數據進行各種加工整理,將獲得的數據以文字、報表、曲線和各種圖形的方式,簡便、快捷地展現出來。主要包括即席查詢、聯機分析處理、報表輸出和信息結果發布等功能。
3.2主題分析設計與多維建模
    數據倉庫中的數據都圍繞相關主題組織,面向主題是在線監測與分析系統數據倉庫區別于污染源管理綜合數據庫系統的主要特征。經過需求分析和與用戶反復探討最終確定了在線數據分析系統數據倉庫的幾個基本主題:污染源類型主題、異常事件類型主題、監控設備類型主題,并確定其公用類主題。如污染源類型主題包括所屬行業、監測站類別、工藝流程、監測因子、企業規模、注冊類型、管理級別、排放去向、污染物處置方法等信息。異常事件類型主題包括異常類型、監控類型、超標因子等信息。監控設備類包括設備類型、調試目的等信息。
    公用類主題類型包括的維度有日期、時間和地區。如圖2所示。

    確定主題后,可以用多維模型進行描述。多維建模方式表現了屬性間更為豐富的關系和靈活性。多維建模易于使用者進行多維分析[5-6]。在多維分析模型建設中主要存在兩種模型:星型模型(Star Schema)和雪花模型(Snowflake Schema)。以污染源排污監控分析主題關系邏輯雪花型多維模型如圖3所示。

    此模型對應的系統分析目標和功能為:從時間段、污染類型、企業規模、行政區域等角度對排放因子進行分析,掌握各類排放因子的排放平均值、最大值、最小值和累計排放值,并可進行不同時間段內趨勢和比較分析,了解排放值的變化趨勢。
4 在線監測數據分析
4.1 污染源排放統計分析

    采用企業級商務智能分析處理模塊,引入主流的ROLAP(關系型聯機分析處理系統)技術,通過Mondrian多維分析工具,實現海量數據展示、分析統計,同時提供功能強大的共享查詢和多維分析功能[7]。可以多視角多維度觀察監測數據,對數據進行上鉆、下鉆、切片、切塊等操作[8]。污染源排放數值多維統計分析如圖4所示。

4.2污染源企業排口監測因子預警及閥值設置
    考慮到排污、流量等情況的多變性,采取實時在線學習訓練及仿真、預測,即采用近期的實測資料(依據連續幾個時間周期取值的變化做實驗),建立預測模型,通過實際數據比較,得到與實際結果相近的預測率。實測結果示例如圖5所示。

    企業據此填報污染源排放煙氣連續監測系統審核評分表,如圖6所示。
    對于不同行業的閥值有不同,通常依據連續幾個時間周期取值的變化來做監測,智能分析超標率,默認時間周期內(h或者min)80%時間超標提醒,例如排水的工廠,以6 h為周期,連續5 h,或者有85%的離散數據接近閥值,則系統產生預警,如果發現企業有違反環保規定的行為,可以下達限期整改通知書,責令企業在特定的期限內完成整改。
    本系統采用基于數據倉庫和智能分析技術實現海量數據查詢及分析、污染源企業排口監測因子預警、事件自動提醒、各類數據報表統計、任意格式數據報表導出,自動填寫電子化報告等功能,基本達到低碳、環保的無紙辦公。實現了環境監察業務的流程化、標準化和規范化,為數字環保和智慧城市提供基礎信息方案。系統正式投入運行近一年,得到了使用單位的一致好評。
參考文獻
[1] BAEZA-YATES R, HURTADO C, MENDOZA M. Query  recommendation using query logs in search engines [C].  Proc of EDBT Workshops,2004:588-596.
[2] 陳啟買,賀超波,劉海.基于OLAP的高校教學協同決策[J]. 計算機應用,2009,29(1):304-305,333.
[3] KOUTRIKA G,IKEDA R,BERCOVITZ B,et al. Flexible recommendations over rich data[C]. Proc of ACM Conference on Recommender Systems,2008:203-210.
[4] 李婧. 商務智能與數據倉庫在保險業的應用研究[D].西安:西安電子科技大學,2007.
[5] 黃曉穎,李亞芬,王普. 基于數據倉庫的學科建設決策支持系統的設計[J] .計算機工程與設計, 2010,31(23):4995-4998.
[6] 秦永平,王麗萍,孫慶.基于數據倉庫的突發公共衛生事件預警預報系統[J].計算機工程與設計, 2010,31(23):3119-3122.
[7] 王亞妮,李茜. 基于OLAP 技術的社區衛生服務體系信息管理平臺的設計與實現[C]. 2010 3rd International Conference on Power Electronics and Intelligent Transportation System,2010.
[8] 陳元中. 基于聚類的OLAP多維分析查詢推薦方法研究[J].計算機工程與設計, 2010,31(15): 3503-3505.

此內容為AET網站原創,未經授權禁止轉載。
主站蜘蛛池模板: 久久天天躁夜夜躁狠狠 | 久久精品国产欧美成人 | 日韩天天干 | 精品福利一区二区免费视频 | 精品999久久久久久中文字幕 | 大香大香伊人在钱线久久下载 | 女兵人3未删减版在线观看 暖暖喜欢你电视剧免费观看完整版高清 | 国产亚洲精品片a77777 | 久热天堂| 婷婷在线网站 | 久久国产精品99国产精 | 激情四月婷婷 | 成人免费视频888在www电影 | 成年黄网站色视频免费观看 | 免费福利在线观看 | 国产精华av午夜在线观看 | 欧美成人久久久免费播放 | 久久精品9 | 国产va在线 | 久久加久久| 爽爽影院免费看 | 免费的黄色小视频 | 狠狠欧美 | 久久天天躁狠狠躁夜夜 | 色五月视频 | 福利一区二区视频 | 国产欧美一区视频在线观看 | 久久久久久久九九九九 | 美国免费视频 | 欧美日韩99 | 综合网婷婷 | 99国内精品| 久久激情综合色丁香 | 国产成人精品亚洲 | 欧美曰逼视频 | 国产欧美性综合视频性刺激 | 男人天堂网在线观看 | 免费的色视频 | 国产高清一区二区三区四区 | 无人码一区二区三区视频 | 99精品免费视频 |