BAT三巨頭開挖大數(shù)據(jù)
阿里巴巴CTO即阿里云負責人王堅博士說過一句話:云計算和大數(shù)據(jù),你們都理解錯了。實際上,對于大數(shù)據(jù)究竟是什么業(yè)界并無共識。大數(shù)據(jù)并不是什么新鮮事物。信息革命帶來的除了信息的更高效地生產(chǎn)、流通和消費外,還帶來數(shù)據(jù)的爆炸式增長。“引爆點”到來之后,人們發(fā)現(xiàn)原有的零散的對數(shù)據(jù)的利用造成了巨大的浪費。移動互聯(lián)網(wǎng)浪潮下,數(shù)據(jù)產(chǎn)生速度前所未有地加快。人類達成共識開始系統(tǒng)性地對數(shù)據(jù)進行挖掘。這是大數(shù)據(jù)的初心。數(shù)據(jù)積累的同時,數(shù)據(jù)挖掘需要的計算理論、實時的數(shù)據(jù)收集和流通通道、數(shù)據(jù)挖掘過程需要使用的軟硬件環(huán)境都在成熟。
但歷史告訴我們,最具實干精神的互聯(lián)網(wǎng)領(lǐng)域,行動才是最好的答案。概念、模式、理論很重要,但它們都需要實踐中逐步明朗細化。所謂實踐出真知。國內(nèi)互聯(lián)網(wǎng)三巨頭BAT坐擁數(shù)據(jù)金礦,已陸陸續(xù)續(xù)踏上了大數(shù)據(jù)掘金之路。
BAT都是大礦主,但礦山性質(zhì)不同
數(shù)據(jù)如同蘊藏能量的煤礦。煤炭按照性質(zhì)有焦煤、無煙煤、肥煤、貧煤等分類,而露天煤礦、深山煤礦的挖掘成本又不一樣。與此類似,大數(shù)據(jù)并不在“大”,而在于“有用”。價值含量、挖掘成本比數(shù)量更為重要。
百度擁有兩種類型的大數(shù)據(jù),用戶搜索表征的需求數(shù)據(jù);爬蟲和阿拉丁獲取的公共web數(shù)據(jù)。阿里巴巴擁有交易數(shù)據(jù)和信用數(shù)據(jù)。這兩種數(shù)據(jù)更容易變現(xiàn),挖掘出商業(yè)價值。除此之外阿里巴巴還通過投資等方式掌握了部分社交數(shù)據(jù)、移動數(shù)據(jù)。如微博和高德。騰訊擁有的用戶關(guān)系數(shù)據(jù)和基于此產(chǎn)生的社交數(shù)據(jù)。這些數(shù)據(jù)可以分析人們的生活和行為,從里面挖掘出政治、社會、文化、商業(yè)、健康等領(lǐng)域的信息,甚至預測未來。
一、百度,含著數(shù)據(jù)出生且擁有挖掘技術(shù),研究和實用結(jié)合
搜索巨頭百度圍繞數(shù)據(jù)而生。網(wǎng)頁數(shù)據(jù)的爬取,網(wǎng)頁內(nèi)容的組織和解析,通過語義分析對搜索需求的精準理解進而從海量數(shù)據(jù)中找準結(jié)果,以及精準的搜索引擎關(guān)鍵字廣告,實質(zhì)上就是一個數(shù)據(jù)的獲取、組織、分析和挖掘的過程。
將所有數(shù)據(jù)握在手里,是搜索引擎的夢想。除了網(wǎng)頁外,百度還通過阿拉丁計劃吸收第三方數(shù)據(jù),通過業(yè)務(wù)手段與藥監(jiān)局等部門合作拿到封閉的數(shù)據(jù)。但盡管百度擁有核心技術(shù)和數(shù)據(jù)礦山,卻還沒有發(fā)揮出最大潛力。百度指數(shù)、百度統(tǒng)計等產(chǎn)品算是對數(shù)據(jù)挖掘的一些初級應用,與Google相比,百度在社交數(shù)據(jù)、實時數(shù)據(jù)的收集和由數(shù)據(jù)流通到數(shù)據(jù)挖掘轉(zhuǎn)換上有很大潛力,還有很多事情要做。
2月底在北京出差時,寫了一篇《搜索引擎的大數(shù)據(jù)時代》發(fā)在虎嗅。創(chuàng)造了零回復的記錄。盡管如此仍然沒有打消我對搜索引擎在大數(shù)據(jù)時代深層次變革的思考。
搜索引擎在大數(shù)據(jù)時代面臨的挑戰(zhàn)有:更多的暗網(wǎng)數(shù)據(jù)、更多的WEB化但是沒有結(jié)構(gòu)化的數(shù)據(jù)、更多的WEB化、結(jié)構(gòu)化但是封閉的數(shù)據(jù)。這幾個挑戰(zhàn)使得數(shù)據(jù)正在遠離傳統(tǒng)搜索引擎。不過,正如文章最后提到的,大數(shù)據(jù)時代對搜索引擎來說,既是挑戰(zhàn),也是機會。因為搜索引擎在大數(shù)據(jù)上具備技術(shù)沉淀以及優(yōu)勢。
接下來,百度會向企業(yè)提供更多的數(shù)據(jù)和數(shù)據(jù)服務(wù)。前期百度與寶潔、平安等公司合作,為其提供消費者行為分析和挖掘服務(wù),通過數(shù)據(jù)結(jié)論指導企業(yè)推出產(chǎn)品。是一種典型的基于大數(shù)據(jù)的C2B模式。與此類似的還有netflix的《紙牌屋》美劇,該劇的男主角凱文·史派西和導演大衛(wèi)·芬奇都是通過對網(wǎng)絡(luò)數(shù)據(jù)挖掘之后,根據(jù)受歡迎情況選中的。
百度還會利用大數(shù)據(jù)完成移動互聯(lián)網(wǎng)進化。核心攻關(guān)技術(shù)便是深度學習?;诖髷?shù)據(jù)的機器學習將改善多媒體搜索效果和智能搜索,如語音搜索、視覺搜索和自然語言搜索。這將催生移動互聯(lián)網(wǎng)的革命性產(chǎn)品的出現(xiàn)。
不過,盡管百度已經(jīng)出發(fā),其在大數(shù)據(jù)上可做的事情還有很多。
在數(shù)據(jù)收集方面,百度需要聚合更多高價值的交易、社交和實時數(shù)據(jù)。例如加強自己貼吧知道的社交能力、盡快讓地圖服務(wù)與O2O結(jié)合進而掌握交易數(shù)據(jù),以及推進移動App、穿戴式設(shè)備等數(shù)據(jù)收集系統(tǒng)。
在數(shù)據(jù)處理技術(shù)上,百度成立深度學習研究院加強自己在人工智能領(lǐng)域的探索,在多媒體和中文自然語言處理領(lǐng)域已經(jīng)有一些進展。云存儲、云計算的基礎(chǔ)設(shè)施建設(shè)也在逐步完善。但深度學習仍然是一個巨大的挑戰(zhàn),百度等探索者還有很多待解問題如無監(jiān)督式學習、立體圖像識別。
在數(shù)據(jù)變現(xiàn)方面,百度需將數(shù)據(jù)挖掘能力、數(shù)據(jù)內(nèi)容聚合和提取等形成標準化的服務(wù)和產(chǎn)品,進而開拓大數(shù)據(jù)領(lǐng)域的企業(yè)和開發(fā)者市場。而不僅僅是頗為個性化、定制化地為大型企業(yè)提供解決。
百度的優(yōu)勢體現(xiàn)在海量的數(shù)據(jù)、沉淀十多年的用戶行為數(shù)據(jù)、自然語言處理能力和深度學習領(lǐng)域的前沿研究。在技術(shù)人才方面百度是聚集國內(nèi)最多大數(shù)據(jù)相關(guān)領(lǐng)域頂尖人才的公司。聽說百度前段時間花五千萬挖了數(shù)據(jù)挖掘、自然語言處理、深度學習領(lǐng)域的十來位大牛,包括一些學者和教授。例如Facebook科學家徐偉。
在挖人上,舍得花錢不夠,還得用心。對于真正的大牛來說,錢只是一個影響因素。能否實現(xiàn)自己的夢想,公司的資源能否幫助自己的研究至關(guān)重要。徐偉在回國前就曾問過其他從硅谷回國工程師的意見,得到答案是來到百度工作的發(fā)展狀況最好,最終促成他作出決定。
總體來看,百度擁有大數(shù)據(jù)也具備大數(shù)據(jù)挖掘的能力,并且正在進行積極地準備和探索。在加強面向未來的研究和人才布局的同時,也注重實用性的技術(shù)產(chǎn)出。
二、騰訊,數(shù)據(jù)為產(chǎn)品所用,自產(chǎn)自銷
微創(chuàng)新提出者金錯刀有個關(guān)于騰訊的故事。
1999年騰訊公司剛剛成立不久,天使投資人劉曉松決定向其注資的一個主要原因就是因為他發(fā)現(xiàn),“當時雖然他們的公司還很小,但已經(jīng)有用戶運營的理念,后臺對于用戶的每一個動作都有記錄和分析。”而另一個投資人卻因為馬化騰在公司很小時就花錢在數(shù)據(jù)上表示不滿。此后騰訊的產(chǎn)品生產(chǎn)及運營、騰訊游戲的崛起都離不開對數(shù)據(jù)的重視。
騰訊擁有社交大數(shù)據(jù),在企鵝帝國完成數(shù)據(jù)的制造、流通、消費和挖掘。
騰訊大數(shù)據(jù)目前釋放價值更多是改進產(chǎn)品。據(jù)騰訊Q1財報,增值服務(wù)占總收入的78.7%;電子商務(wù)業(yè)務(wù)占14.1%;網(wǎng)絡(luò)廣告收入占6.3%。從廣告收入比例可以看出騰訊的大數(shù)據(jù)在精準營銷領(lǐng)域暫時還未大量釋放出價值。與其產(chǎn)品線對應的GMAIL、Google+的Google以及社交巨頭Facebook則通過廣告賺得盆滿缽滿。
筆者看來騰訊的思路主要是補齊產(chǎn)品,注重QZONE、微信、電商等產(chǎn)品的后端數(shù)據(jù)打通。例如最近騰訊微博利用“大數(shù)據(jù)技術(shù)”實現(xiàn)好友關(guān)系自動分組、低質(zhì)量信息自動過濾、優(yōu)質(zhì)信息分類閱讀等智能化功能。明顯的用數(shù)據(jù)改進產(chǎn)品的思路。
那么如果騰訊要深入大數(shù)據(jù)挖掘缺少什么呢?筆者認為其只需馬化騰“摁下啟動按鈕”。數(shù)據(jù)已經(jīng)準備好了,就差模式,也就是找到需求或者能更深層次驅(qū)動大數(shù)據(jù)利用的產(chǎn)品,而不是用大數(shù)據(jù)改進自己的產(chǎn)品。騰訊還在觀望,等其他人去試錯驗證出一套模式或者產(chǎn)品后,自己可以“站在巨人肩上”。這是騰訊的典型思維。
在人才方面,騰訊很早便開始重金挖人。尤其是2010年在Google宣布退出中國后,Google 圖片搜索創(chuàng)始人朱會燦、Google 中國工程研究院副院長顏偉鵬、Google 中日韓文搜索算法的主要設(shè)計者,《浪潮之巔》及《數(shù)學之美》作者吳軍相繼加入騰訊 。搜搜花了很多錢,但被認定為一款無法承載騰訊重托的產(chǎn)品,最后這些大牛都走了。大都回Google了。
騰訊在大數(shù)據(jù)領(lǐng)域也缺少技術(shù)帶頭人。其對公關(guān)也不重視。技術(shù)大牛很少出來做報告,更不會向百度、阿里那樣主動包裝宣傳技術(shù)大牛。其技術(shù)雖然低調(diào),但執(zhí)行力很強。據(jù)騰訊的程序員朋友說封閉開發(fā)、集體加班是常有的事情。但配套的重金激勵也能跟上。重金之下必有勇夫、騰訊用制度保障技術(shù)產(chǎn)出。另外騰訊在高校合作領(lǐng)先一步,在2010年便與清華大學合作成立了清華騰訊聯(lián)合實驗室。
這么看騰訊的技術(shù)人才這塊似乎有短板。會不會到時候馬化騰按下啟動按鈕,發(fā)現(xiàn)沒數(shù)據(jù)挖掘能力呢?不會,騰訊搞不定數(shù)據(jù)挖掘,到時候依然可以挖到大牛,甚至讀論文來搞定這事兒。數(shù)據(jù)挖掘已較為成熟。數(shù)據(jù)挖掘?qū)嶋H是數(shù)據(jù)庫、統(tǒng)計學、機器學習三個領(lǐng)域的融合。在學術(shù)界已經(jīng)發(fā)展多年。不過自然語言識別和深度學習等方面要趕上百度,就難了。除非將百度的數(shù)據(jù)和眾大牛一起倒騰過來。
總體來看,騰訊目前的大數(shù)據(jù)是先將產(chǎn)品補全,產(chǎn)品后臺數(shù)據(jù)打通,形成穩(wěn)定生態(tài)圈。本階段先利用大數(shù)據(jù)挖掘改進自己的產(chǎn)品。后期有成熟的模式合適的產(chǎn)品,則利用自家的社交及關(guān)系數(shù)據(jù)時,開展對大數(shù)據(jù)的進一步挖掘。
三、阿里,坐擁金數(shù)據(jù),嘗試做面向未來的數(shù)據(jù)集市
阿里巴巴B2B出身,在外貿(mào)蓬勃的大環(huán)境下,依靠服務(wù)中小企業(yè)發(fā)家。淘寶、支付寶等toC的產(chǎn)品出生前,阿里并不依賴也不擅長技術(shù)。業(yè)界普遍認為阿里沒有技術(shù)基因。直到淘寶、支付寶以及天貓三個產(chǎn)品后,對海量用戶大并發(fā)量交易、海量貨架數(shù)據(jù)的管理、安全性等方面的嚴苛要求,阿里完成進化,在電商技術(shù)上取得不菲的成績。在一段時期阿里仍然浪費了手里掌握的大量數(shù)據(jù)。這些數(shù)據(jù)還是“最值錢”的金數(shù)據(jù)。
數(shù)據(jù)挖掘無非是從原始數(shù)據(jù)提取價值。阿里現(xiàn)有的數(shù)據(jù)產(chǎn)品例如數(shù)據(jù)魔方、量詞統(tǒng)計、推薦系統(tǒng)、排行榜以及時光倒流相對來說是比較簡單的BI(商業(yè)智能),沒到大數(shù)據(jù)的階段。
“大數(shù)據(jù)”浪潮襲來,阿里提出“數(shù)據(jù)、金融和平臺”戰(zhàn)略。前所未有地重視起對數(shù)據(jù)的收集、挖掘和共享。馬云在“退居”前動不動都對外提“數(shù)據(jù)”。有位阿里朋友甚至開玩笑說,馬云英文名可以從Jack Ma改為Data Ma。阿里現(xiàn)CEO陸兆禧前身是CDO,首席數(shù)據(jù)官。為了用數(shù)據(jù)來驅(qū)動阿里電商帝國,阿里還成立了橫跨各大事業(yè)部的“數(shù)據(jù)委員會”。
阿里的各項投資案也顯示其整合、利用和完善數(shù)據(jù)的野心:新浪微博的社交及媒體數(shù)據(jù)、高德的地圖數(shù)據(jù)和線下數(shù)據(jù)以及友盟的移動應用數(shù)據(jù),都是其數(shù)據(jù)及平臺戰(zhàn)略的一部分。數(shù)據(jù)戰(zhàn)略正在首席人工智能官(CBO)車品覺領(lǐng)頭下逐步落地,王堅的云為其提供基礎(chǔ)設(shè)施、基礎(chǔ)技術(shù)支撐。
就在馬云退休之后,王堅對外透露其跟馬云開玩笑說的一句話:阿里巴巴對數(shù)據(jù)的理解深度,不會超過蘇寧對電子商務(wù)的理解。估計馬云不一定認同他這話。馬云對大數(shù)據(jù)已經(jīng)有著自己的理解和考量。
馬云曾經(jīng)說過其對大數(shù)據(jù)的思考。大致意思是:現(xiàn)在從信息時代進入數(shù)據(jù)時代了。區(qū)別是信息時代更多的是精英玩的游戲。我比別人聰明,我能提取出信息出來;數(shù)據(jù)時代,別人比我聰明,將數(shù)據(jù)開放給更聰明的人處理,數(shù)據(jù)即資產(chǎn),分析即服務(wù)。
計算機發(fā)展的過程是從象牙塔、到平民到草根。大數(shù)據(jù)也是這樣,一開始在象牙塔階段,少數(shù)精英公司才能玩;但到后面只要有數(shù)據(jù)就有價值。數(shù)據(jù)也有所有權(quán),產(chǎn)生數(shù)據(jù)、流通數(shù)據(jù)、挖掘數(shù)據(jù)的都會獲得相應的價值。而阿里擅長的便是“建立市場”,建立一個數(shù)據(jù)交易市場。屆時任何個人和企業(yè)都可以將數(shù)據(jù)和挖掘服務(wù)拿上去,交易。初期阿里會將自己珍藏的電商和信用數(shù)據(jù)逐步放到上面。
有數(shù)據(jù)的人,拿上去賣,或者讓別人分析,分析即服務(wù)。沒有數(shù)據(jù)的人,即可以去買,也可以去幫別人挖掘,做礦工。
阿里并不是技術(shù)驅(qū)動,而是業(yè)務(wù)驅(qū)動的。因此在技術(shù)層面我們看到,基于前面提到的阿里大數(shù)據(jù)思路,其技術(shù)重心主要在系統(tǒng)層面。阿里擁有LVS(Linux Virtual Server,Linux虛擬服務(wù)器)開源軟件創(chuàng)始人章文嵩,Linux Kernal、文件系統(tǒng)、大牛DBA等領(lǐng)域的大牛。數(shù)據(jù)大牛馮大輝則是阿里支付寶數(shù)據(jù)架構(gòu)師出身。從人才布局可以看到阿里擅長的技術(shù)領(lǐng)域,體現(xiàn)在對于并發(fā)訪問、電信級別的電商業(yè)務(wù)的支撐方面的得心應手。在去年雙十一期間,支撐了單日過億的訂單量。鐵道部奇葩網(wǎng)12306在日均40萬時已經(jīng)不行了。
總體來看,阿里更多是在搭建數(shù)據(jù)的流通、收集和分享的底層架構(gòu)。自己并不擅長似乎也不會著重來做數(shù)據(jù)挖掘的活兒。而是將自己擅長的“交易”生意擴展到數(shù)據(jù)。讓天下沒有難做的“數(shù)據(jù)生意”。
總結(jié)一下:
移動互聯(lián)網(wǎng)浪潮下,現(xiàn)實世界正在加速數(shù)字化,每個人,每個物體、每件事情、每一個時間節(jié)點,都在向網(wǎng)上映射??臻g和時間兩個維度的聯(lián)網(wǎng),使得數(shù)字世界正在接近一步步模擬現(xiàn)實世界。歷史、現(xiàn)在和未來都會映射到網(wǎng)上。對大數(shù)據(jù)的挖掘正是對世界的二次發(fā)現(xiàn)和感知。BAT三巨頭已經(jīng)出發(fā)。