一線用戶談大數據面臨的最大挑戰
Klout公司正在利用數據分析來了解人們在社交網絡的影響力,該公司首席技術官Virendra Vase表示:“我們基本上是位于社交網絡上面,收集所有信息,幫助人們理解以及認識其影響力。”
這個工作每天需要處理來自超過4億用戶的120億數據信號,Klout的大數據環境包括開源平臺Hadoop、以及Hbase、Hive、ElasticSearch、Scala、Storm、Node.js和其他工具。
Virendra Vase
Rachel Higham
Vase最近談到了Klout學到的一些大數據教訓。保險公司ACE Group公司首席企業架構師Rachel Higham,Tenet Healthcare公司消費類應用程序副總裁Brian Barnes也分享了他們的大數據技巧、竅門以及遇到的問題,下面讓我們來看看他們分享的內容:
數據量使測試、存儲和計算復雜化
龐大的數據量使測試成為一個挑戰。處理非結構化數據格式和社交媒體導出的數據(例如140個字符的微薄)也不是簡單的事情。當涉及存儲時,更多的數據并不總是更好。他提醒說:“我們必須要弄清楚:我們需要保存什么樣的數據?我們需要歸檔哪些數據。在最后,并不是關于數據,而是關于我們如何分析數據。”
技術成熟度是一個挑戰
Vase警告說,很多大數據技術仍然在開發中。雖然這些基礎技術正在日趨完善,但用于管理和配置的工具仍然處于起步階段,這讓IT專業人士不得不應對這種差距。他表示:“我們需要從管理的角度、從工作流程的角度、從配置的角度來開發攻擊。”
模塊化
對于Klout來說,模塊化的基礎設施很重要,因為這允許IT團隊處理業務優先級變化,并提供業務透明度。他重申,企業需要投資于管理和生產力工具。“這正是我們的20%和25%工程資源側重的地方--生產力工具和工作流程管理。”
努力發現人才
大數據工具正在快速發展,而供應商支持并沒有完全到位,這使得尋找大數據人才成為挑戰。“我們很難找到人才,我們只能聘請優秀的工程師,并對他們進行培訓。”
大數據專家與業務專家合作
我們經常談到讓大數據專家與產品專家以及業務專家緊密合作,但這說起來比做起來容易,這件事情仍然難以貫徹,但雙方都需要了解另一方。
ACE集團已經很善于利用大數據分析來發現風險和欺詐模式,識別新的商業機會,以及了解客戶情緒。Higham表示:“我認為我們學到的最大經驗是:在企業內傳達我們的意圖、愿景以及成功案例”。
定義一個愿景,教育領導班子
“我們花了很多時間來發現大數據可運用的領域,例如在我們的承保和理賠流程中,并向業務部門進行解釋,”Higham表示,“這為我們確定了兩個概念證明,現在我們已經運用到更多領域,并且進一步運用一些大數據工具和技術。”
建立督導組
ACE集團的督導委員會負責領導該公司的大數據項目,令人驚訝的是,其中并不完全是技術人員。“其中包含4名技術人員以及大約20名企業領導。”
在開始項目前,配備數據和人才
Higham表示:“我們投資的關鍵事情之一就是在開始項目之前,準備技能和資源,如果沒有這些,我們將無法為業務提供價值。”
散布企業內的人才
ACE集團的大數據專家分散在整個企業,“我們在整個企業都建立了核心競爭力,在企業中配備了新的技能人才,包括統計人員、數據篩選人員、數據分析師、流程專家等。這種協作能夠幫助我們收集資源、分享技能,以及不斷發展和創新。”
不要低估供應商管理或者系統集成
對于Vanguard Health Systems而言,大數據分析的最好方法是利用8個供應商的方法,“我們使用8家供應商的解決方案,因為沒有供應商提供即用的解決方案。”供應商管理是一個挑戰,集成所有不同系統也是挑戰。
單獨評估投資回報率
美國第二大醫療保健網絡Tenet Healthcare利用大數據分析來改進和驗證營銷活動的有效性。當大數據取得成功時,每個人都希望成為其中的一部分。“當你部署大數據項目后,你會開始給企業帶來新的收入,然后企業其他團隊也會跳出來說這是他們帶來的收入。”對于其團隊而言,首席財務官能夠幫助解決這個問題,他們能夠單獨提供大數據項目的投資回報率。