首頁 > 新聞 > 國內 >

海量分析,數據掘金—中興通訊金融行業(yè)大數據方案

2015-02-04 09:02:25   作者:   來源:CTI論壇   評論:0  點擊:


  近年來移動互聯(lián)網發(fā)展迅猛,數據迅速膨脹,全球步入大數據時代。大數據時代下,金融邊界不斷延伸,部分具有互聯(lián)網大數據功能的公司也逐漸向金融行業(yè)滲透。以阿里巴巴為代表的互聯(lián)網公司攜大數據技術打造的互聯(lián)網金融產品大舉進入金融行業(yè),來勢洶洶。傳統(tǒng)金融企業(yè)亟需大數據技術支撐去發(fā)現(xiàn)和驅動新的業(yè)務,應對來自互聯(lián)網金融的挑戰(zhàn)。

  基于金融行業(yè)安全、自主、高效的特點,金融行業(yè)的大數據解決方案有如下需求:

  • 自主掌控:基于成熟數據庫,可以完全掌握源代碼,技術成熟經過驗證,可自主維護,安全性高;
  • 安全可靠:基于集群技術,不存在單點故障;
  • 性能卓越:具備高效數據處理能力,海量并發(fā)連接;SQL解析優(yōu)化與存儲分離;
  • 線性擴展:通過線性擴展提升性能,可根據業(yè)務量靈活調整系統(tǒng);
  • 成本可控:有效降低成本,控制IT支出,數據存儲基于廉價硬盤,使用廉價服務器,舍棄傳統(tǒng)昂貴的數據庫;
  • 易于開發(fā):對外提供SQL和API豐富接口,數據持久化對應用透明,保持對通用數據庫最大兼容性,數據分布對應用透明,降低開發(fā)難度。

  基于以上分析,中興通訊基于Hadoop以及開源數據庫技術,結合在大數據項目中的實踐經驗,推出面向金融行業(yè)的GoldenData大數據解決方案(見圖1)。

  中興通訊GoldenData大數據解決方案針對金融行業(yè)特點,在安全、開放、調度、部署、資源隔離、可管理等方面做了開創(chuàng)性工作。

  • 兼顧效率的安全機制

  在保證安全防護等級的前提下,為了不影響平臺的處理效率,中興通訊大數據平臺采用管理手段、硬件防護、軟件加固三位一體的整體安全解決方案。通過技術手段解決權限控制、數據加解密、事后審計、誤操作恢復的問題,通過硬件防護、管理手段解決身份認證的問題。

  • 標準的開放接口和開發(fā)環(huán)境

  提供標準的開放接口和開發(fā)環(huán)境,支持第三方快速完成應用開發(fā)。對上層應用提供兼容SQL、WebService等接口,方便與現(xiàn)有IT系統(tǒng)的集成;對下層數據分布式海量數據集采組件,支持多種數據源接口:HDFS、Hbase、Hive、ZooKeeper、Sqoop、MR等,屏蔽Hadoop底層技術,提供標準API接口。

  • 多種調度機制

  獨立VIP調度隊列:為了確保特定的任務可以相對獨立運行,不受其他任務干擾,需要單獨開設一個VIP隊列。

  特色的任務翻牌機制:金融行業(yè)每個任務都有自己固定的運行時間和計劃,對于失敗的任務或過了時間卻不滿足運行條件的任務,需要一個固定的翻牌機制,確保任務在合適的時機得到正確的運行。

  集群流控:在線集群為了保證客戶請求得到實時響應,在必要的條件下,對新請求直接拒絕從而確保已有請求獲得充分的資源,確保在線集群的及時響應。

  • 獨創(chuàng)在線集群獨立部署

  在線應用和基礎應用物理部署隔離,確保普通應用不干擾在線應用;通過Hfile文件實現(xiàn)兩個集群間的數據遷移,減輕在線應用集群負擔;統(tǒng)一管理多套集群,并可對多套集群運行指標進行縱向對比。

  • 資源隔離

  數據隔離:平臺上同時運行多個應用程序,從應用數據輸入、程序運行、應用運行中間數據,到程序結果都通過權限做隔離,避免應用程序之間出現(xiàn)數據干擾。

  避免過度空間占用:配置應用級別HDFS使用配額,避免某應用程序占用過多空間。

  避免超長占用計算資源:支持MapReduce程序運行時間預判,通過測試環(huán)境和歷史數據自動評估運行時長,如果實際運行超過預估時間50%則進行告警。

  • 統(tǒng)一管理

  中興通訊大數據產品提供統(tǒng)一管理。中興通訊面向ICT的組件化大數據平臺,專注于保障大數據業(yè)務的最終用戶使用體驗、促進大數據業(yè)務的快速成長,至頂向下為大數據業(yè)務生態(tài)系統(tǒng)中涉及的各類管理對象提供統(tǒng)一的平臺管理保障。

  中興通訊GoldenData大數據平臺產品在金融銀行和全球運營商等市場具有多個成熟商用案例,具備良好的技術積累和豐富的工程現(xiàn)網實施經驗。中興通訊愿在大數據時代下幫助客戶華麗轉型,實現(xiàn)數據掘金、價值共享。

分享到: 收藏

專題