-
當前位置:首頁 > 創(chuàng)意學院 > 技術(shù) > 專題列表 > 正文
大數(shù)據(jù)基礎是谷歌首先提出的嗎(大數(shù)據(jù)基礎是谷歌首先提出的嗎為什么)
大家好!今天讓創(chuàng)意嶺的小編來大家介紹下關(guān)于大數(shù)據(jù)基礎是谷歌首先提出的嗎的問題,以下是小編對此問題的歸納整理,讓我們一起來看看吧。
開始之前先推薦一個非常厲害的Ai人工智能工具,一鍵生成原創(chuàng)文章、方案、文案、工作計劃、工作報告、論文、代碼、作文、做題和對話答疑等等
只需要輸入關(guān)鍵詞,就能返回你想要的內(nèi)容,越精準,寫出的就越詳細,有微信小程序端、在線網(wǎng)頁版、PC客戶端
官網(wǎng):https://ai.de1919.com。
創(chuàng)意嶺作為行業(yè)內(nèi)優(yōu)秀的企業(yè),服務客戶遍布全球各地,如需了解SEO相關(guān)業(yè)務請撥打電話175-8598-2043,或添加微信:1454722008
本文目錄:
一、誰最早提出大數(shù)據(jù)的概念?
“大數(shù)據(jù)”概念最早由維克托·邁爾·舍恩伯格和肯尼斯·庫克耶在編寫《大數(shù)據(jù)時代》中提出,指對所有數(shù)據(jù)進行整體分析處理,而不是采用隨機分析法,即抽樣調(diào)查進行分析。 大數(shù)據(jù)有4V特點,即Volume(大量)、Velocity(高速)、Variety(多樣)、Value(價值)。 大數(shù)據(jù) (Big Data)又稱為巨量資料,具體指要更新新處理模式才能保證擁有更強的決策力、洞察力和流程優(yōu)化能力的海量、高增長率和多樣化的信息資產(chǎn)。 “大數(shù)據(jù)”概念最早由維克托·邁爾·舍恩伯格和肯尼斯·庫克耶在編寫《大數(shù)據(jù)時代》中提出,指對所有數(shù)據(jù)進行整體分析處理,而不是采用隨機分析法,即抽樣調(diào)查進行分析。
大數(shù)據(jù)有4V特點,即Volume(大量)、Velocity(高速)、Variety(多樣)、Value(價值)。
二、大數(shù)據(jù)是什么,詳細
大數(shù)據(jù)是指在一定時間內(nèi),常規(guī)軟件工具無法捕捉、管理和處理的數(shù)據(jù)集合。它是一種海量、高增長、多元化的信息資產(chǎn),需要一種新的處理模式,以具備更強的決策、洞察和流程優(yōu)化能力。
大數(shù)據(jù)技術(shù)的戰(zhàn)略意義不在于掌握龐大的數(shù)據(jù)信息,而在于對這些有意義的數(shù)據(jù)進行專業(yè)的處理。換句話說,如果把大數(shù)據(jù)比作一個行業(yè),這個行業(yè)盈利的關(guān)鍵在于提高數(shù)據(jù)的“處理能力”,通過“處理”實現(xiàn)數(shù)據(jù)的“增值”。
從技術(shù)上講,大數(shù)據(jù)和云計算的關(guān)系就像硬幣的正反面一樣密不可分。大數(shù)據(jù)不能用單臺計算機處理,必須采用分布式架構(gòu)。其特點在于海量數(shù)據(jù)的分布式數(shù)據(jù)挖掘。但它必須依賴云計算分布式處理、分布式數(shù)據(jù)庫、云存儲和虛擬化技術(shù)。
擴展信息:
大數(shù)據(jù)只是現(xiàn)階段互聯(lián)網(wǎng)的一個表征或特征。沒有必要將其神話或保持敬畏。在以云計算為代表的技術(shù)創(chuàng)新背景下,這些原本看似難以收集和使用的數(shù)據(jù)開始被輕松使用。通過各行各業(yè)的不斷創(chuàng)新,大數(shù)據(jù)將逐漸為人類創(chuàng)造更多的價值。
是體現(xiàn)大數(shù)據(jù)技術(shù)價值的手段,是進步的基石。這里從云計算、分布式處理技術(shù)、存儲技術(shù)、感知技術(shù)的發(fā)展,闡述大數(shù)據(jù)從采集、處理、存儲到形成結(jié)果的全過程。
實踐是大數(shù)據(jù)的終極價值。在這里,我們從互聯(lián)網(wǎng)大數(shù)據(jù)、政府大數(shù)據(jù)、企業(yè)大數(shù)據(jù)、個人大數(shù)據(jù)四個方面來描繪大數(shù)據(jù)的美好圖景和將要實現(xiàn)的藍圖。
三、大數(shù)據(jù)的起源
大數(shù)據(jù)概念最初起源于美國。
是由思科、威睿、甲骨文、IBM等公司倡議發(fā)展起來的。大約從2009年始,大數(shù)據(jù)成為互聯(lián)網(wǎng)信息技術(shù)行業(yè)的流行詞匯。大數(shù)據(jù)是一個不斷演變的概念,當前的興起,是因為從IT技術(shù)到數(shù)據(jù)積累,都已經(jīng)發(fā)生重大變化。當今世界,大數(shù)據(jù)無處不在,它影響到了我們的工作、生活和學習,并將繼續(xù)施加更大的影響。
趨勢
隨著大數(shù)據(jù)的快速發(fā)展,就像計算機和互聯(lián)網(wǎng)一樣,大數(shù)據(jù)很有可能是新一輪的技術(shù)革命。隨之興起的數(shù)據(jù)挖掘、機器學習和人工智能等相關(guān)技術(shù),可能會改變數(shù)據(jù)世界里的很多算法和基礎理論,實現(xiàn)科學技術(shù)上的突破。
未來,數(shù)據(jù)科學將成為一門專門的學科,被越來越多的人所認知。各大高校將設立專門的數(shù)據(jù)科學類專業(yè),也會催生一批與之相關(guān)的新的就業(yè)崗位。與此同時,基于數(shù)據(jù)這個基礎平臺,也將建立起跨領域的數(shù)據(jù)共享平臺,之后,數(shù)據(jù)共享將擴展到企業(yè)層面,并且成為未來產(chǎn)業(yè)的核心一環(huán)。
四、從三個方向去預測大數(shù)據(jù)發(fā)展的未來趨勢
從三個方向去預測大數(shù)據(jù)發(fā)展的未來趨勢
技術(shù)的發(fā)展,讓這個世界每天都在源源不斷地產(chǎn)生數(shù)據(jù),隨著大數(shù)據(jù)概念被提出,這個技術(shù)逐漸發(fā)展成為一個行業(yè),并被不斷看好。那么大數(shù)據(jù)行業(yè)的未來發(fā)展如何?三個方向預測大數(shù)據(jù)技術(shù)發(fā)展未來趨勢:
(一)社交網(wǎng)絡和物聯(lián)網(wǎng)技術(shù)拓展了數(shù)據(jù)采集技術(shù)渠道
經(jīng)過行業(yè)信息化建設,醫(yī)療、交通、金融等領域已經(jīng)積累了許多內(nèi)部數(shù)據(jù),構(gòu)成大數(shù)據(jù)資源的“存量”;而移動互聯(lián)網(wǎng)和物聯(lián)網(wǎng)的發(fā)展,大大豐富了大數(shù)據(jù)的采集渠道,來自外部社交網(wǎng)絡、可穿戴設備、車聯(lián)網(wǎng)、物聯(lián)網(wǎng)及政府公開信息平臺的數(shù)據(jù)將成為大數(shù)據(jù)增量數(shù)據(jù)資源的主體。當前,移動互聯(lián)網(wǎng)的深度普及,為大數(shù)據(jù)應用提供了豐富的數(shù)據(jù)源。
另外,快速發(fā)展的物聯(lián)網(wǎng),也將成為越來越重要的大數(shù)據(jù)資源提供者。相對于現(xiàn)有互聯(lián)網(wǎng)數(shù)據(jù)雜亂無章和價值密度低的特點,通過可穿戴、車聯(lián)網(wǎng)等多種數(shù)據(jù)采集終端,定向采集的數(shù)據(jù)資源更具利用價值。例如,智能化的可穿戴設備經(jīng)過幾年的發(fā)展,智能手環(huán)、腕帶、手表等可穿戴正在走向成熟,智能鑰匙扣、自行車、筷子等設備層出窮,國外 Intel、Google、Facebook,國內(nèi)百度、京東、小米等有所布局。
企業(yè)內(nèi)部數(shù)據(jù)仍是大數(shù)據(jù)主要來源,但對外部數(shù)據(jù)的需求日益強烈。當前,有 32%的企業(yè)通過外部購買所獲得的數(shù)據(jù);只有18%的企業(yè)使用政府開放數(shù)據(jù)。如何促進大數(shù)據(jù)資源建設,提高數(shù)據(jù)質(zhì)量,推動跨界融合流通,是推動大數(shù)據(jù)應用進一步發(fā)展的關(guān)鍵問題之一。
總體來看,各行業(yè)都在致力于在用好存量資源的基礎之上,積極拓展新興數(shù)據(jù)收集的技術(shù)渠道,開發(fā)增量資源。社交媒體、物聯(lián)網(wǎng)等大大豐富了數(shù)據(jù)采集的潛在渠道,理論上,數(shù)據(jù)獲取將變得越來越容易。
(二) 分布式存儲和計算技術(shù)夯實了大數(shù)據(jù)處理的技術(shù)基礎
大數(shù)據(jù)存儲和計算技術(shù)是整個大數(shù)據(jù)系統(tǒng)的基礎。
在存儲方面,2000 年左右谷歌等提出的文件系統(tǒng)(GFS)、以及隨后的 Hadoop 的分布式文件系統(tǒng) HDFS(Hadoop Distributed File System)奠定了大數(shù)據(jù)存儲技術(shù)的基礎。
與傳統(tǒng)系統(tǒng)相比,GFS/HDFS 將計算和存儲節(jié)點在物理上結(jié)合在一起,從而避免在數(shù)據(jù)密集計算中易形成的 I/O吞吐量的制約,同時這類分布式存儲系統(tǒng)的文件系統(tǒng)也采用了分布式架構(gòu),能達到較高的并發(fā)訪問能力。
在計算方面,谷歌在 2004 年公開的 MapReduce 分布式并行計算技術(shù),是新型分布式計算技術(shù)的代表。一個 MapReduce 系統(tǒng)由廉價的通用服務器構(gòu)成,通過添加服務器節(jié)點可線性擴展系統(tǒng)的總處理能力(Scale Out),在成本和可擴展性上都有巨大的優(yōu)勢。
(三) 深度神經(jīng)網(wǎng)絡等新興技術(shù)開辟大數(shù)據(jù)分析技術(shù)的新時代
大數(shù)據(jù)數(shù)據(jù)分析技術(shù),一般分為聯(lián)機分析處理(OLAP,OnlineAnalytical Processing)和數(shù)據(jù)挖掘(Data Mining)兩大類。
OLAP技術(shù),一般基于用戶的一系列假設,在多維數(shù)據(jù)集上進行交互式的數(shù)據(jù)集查詢、關(guān)聯(lián)等操作(一般使用 SQL 語句)來驗證這些假設,代表了演繹推理的思想方法。
數(shù)據(jù)挖掘技術(shù),一般是在海量數(shù)據(jù)中主動尋找模型,自動發(fā)展隱藏在數(shù)據(jù)中的模式(Pattern),代表了歸納的思想方法。
傳統(tǒng)的數(shù)據(jù)挖掘算法主要有:
(1)聚類,又稱群分析,是研究(樣品或指標)分類問題的一種統(tǒng)計分析方法,針對數(shù)據(jù)的相似性和差異性將一組數(shù)據(jù)分為幾個類別。屬于同一類別的數(shù)據(jù)間的相似性很大,但不同類別之間數(shù)據(jù)的相似性很小,跨類的數(shù)據(jù)關(guān)聯(lián)性很低。企業(yè)通過使用聚類分析算法可以進行客戶分群,在不明確客戶群行為特征的情況下對客戶數(shù)據(jù)從不同維度進行分群,再對分群客戶進行特征提取和分析,從而抓住客戶特點推薦相應的產(chǎn)品和服務。
(2)分類,類似于聚類,但是目的不同,分類可以使用聚類預先生成的模型,也可以通過經(jīng)驗數(shù)據(jù)找出一組數(shù)據(jù)對象的共同點,將數(shù)據(jù)劃分成不同的類,其目的是通過分類模型將數(shù)據(jù)項映射到某個給定的類別中,代表算法是CART(分類與回歸樹)。企業(yè)可以將用戶、產(chǎn)品、服務等各業(yè)務數(shù)據(jù)進行分類,構(gòu)建分類模型,再對新的數(shù)據(jù)進行預測分析,使之歸于已有類中。分類算法比較成熟,分類準確率也比較高,對于客戶的精準定位、營銷和服務有著非常好的預測能力,幫助企業(yè)進行決策。
(3)回歸,反映了數(shù)據(jù)的屬性值的特征,通過函數(shù)表達數(shù)據(jù)映射的關(guān)系來發(fā)現(xiàn)屬性值之間的一覽關(guān)系。它可以應用到對數(shù)據(jù)序列的預測和相關(guān)關(guān)系的研究中。企業(yè)可以利用回歸模型對市場銷售情況進行分析和預測,及時作出對應策略調(diào)整。在風險防范、反欺詐等方面也可以通過回歸模型進行預警。
傳統(tǒng)的數(shù)據(jù)方法,不管是傳統(tǒng)的 OLAP 技術(shù)還是數(shù)據(jù)挖掘技術(shù),都難以應付大數(shù)據(jù)的挑戰(zhàn)。首先是執(zhí)行效率低。傳統(tǒng)數(shù)據(jù)挖掘技術(shù)都是基于集中式的底層軟件架構(gòu)開發(fā),難以并行化,因而在處理 TB 級以上數(shù)據(jù)的效率低。其次是數(shù)據(jù)分析精度難以隨著數(shù)據(jù)量提升而得到改進,特別是難以應對非結(jié)構(gòu)化數(shù)據(jù)。
在人類全部數(shù)字化數(shù)據(jù)中,僅有非常小的一部分(約占總數(shù)據(jù)量的 1%)數(shù)值型數(shù)據(jù)得到了深入分析和挖掘(如回歸、分類、聚類),大型互聯(lián)網(wǎng)企業(yè)對網(wǎng)頁索引、社交數(shù)據(jù)等半結(jié)構(gòu)化數(shù)據(jù)進行了淺層分析(如排序),占總量近 60%的語音、圖片、視頻等非結(jié)構(gòu)化數(shù)據(jù)還難以進行有效的分析。
所以,大數(shù)據(jù)分析技術(shù)的發(fā)展需要在兩個方面取得突破,一是對體量龐大的結(jié)構(gòu)化和半結(jié)構(gòu)化數(shù)據(jù)進行高效率的深度分析,挖掘隱性知識,如從自然語言構(gòu)成的文本網(wǎng)頁中理解和識別語義、情感、意圖等;二是對非結(jié)構(gòu)化數(shù)據(jù)進行分析,將海量復雜多源的語音、圖像和視頻數(shù)據(jù)轉(zhuǎn)化為機器可識別的、具有明確語義的信息,進而從中提取有用的知識。
目前來看,以深度神經(jīng)網(wǎng)絡等新興技術(shù)為代表的大數(shù)據(jù)分析技術(shù)已經(jīng)得到一定發(fā)展。
神經(jīng)網(wǎng)絡是一種先進的人工智能技術(shù),具有自身自行處理、分布存儲和高度容錯等特性,非常適合處理非線性的以及那些以模糊、不完整、不嚴密的知識或數(shù)據(jù),十分適合解決大數(shù)據(jù)挖掘的問題。
典型的神經(jīng)網(wǎng)絡模型主要分為三大類:第一類是以用于分類預測和模式識別的前饋式神經(jīng)網(wǎng)絡模型,其主要代表為函數(shù)型網(wǎng)絡、感知機;第二類是用于聯(lián)想記憶和優(yōu)化算法的反饋式神經(jīng)網(wǎng)絡模型,以 Hopfield的離散模型和連續(xù)模型為代表。第三類是用于聚類的自組織映射方法,以 ART 模型為代表。不過,雖然神經(jīng)網(wǎng)絡有多種模型及算法,但在特定領域的數(shù)據(jù)挖掘中使用何種模型及算法并沒有統(tǒng)一的規(guī)則,而且人們很難理解網(wǎng)絡的學習及決策過程。
隨著互聯(lián)網(wǎng)與傳統(tǒng)行業(yè)融合程度日益加深,對于 web 數(shù)據(jù)的挖掘和分析成為了需求分析和市場預測的重要段。Web 數(shù)據(jù)挖掘是一項綜合性的技術(shù),可以從文檔結(jié)構(gòu)和使用集合中發(fā)現(xiàn)隱藏的輸入到輸出的映射過程。
目前研究和應用比較多的是 PageRank 算法。PageRank是Google算法的重要內(nèi)容,于2001年9月被授予美國專利,以Google創(chuàng)始人之一拉里·佩奇(Larry Page)命名。PageRank 根據(jù)網(wǎng)站的外部鏈接和內(nèi)部鏈接的數(shù)量和質(zhì)量衡量網(wǎng)站的價值。這個概念的靈感,來自于學術(shù)研究中的這樣一種現(xiàn)象,即一篇論文的被引述的頻度越多,一般會判斷這篇論文的權(quán)威性和質(zhì)量越高。
需要指出的是,數(shù)據(jù)挖掘與分析的行業(yè)與企業(yè)特點強,除了一些最基本的數(shù)據(jù)分析工具外,目前還缺少針對性的、一般化的建模與分析工具。各個行業(yè)與企業(yè)需要根據(jù)自身業(yè)務構(gòu)建特定數(shù)據(jù)模型。數(shù)據(jù)分析模型構(gòu)建的能力強弱,成為不同企業(yè)在大數(shù)據(jù)競爭中取勝的關(guān)鍵。
以上就是關(guān)于大數(shù)據(jù)基礎是谷歌首先提出的嗎相關(guān)問題的回答。希望能幫到你,如有更多相關(guān)問題,您也可以聯(lián)系我們的客服進行咨詢,客服也會為您講解更多精彩的知識和內(nèi)容。
推薦閱讀:
杭州大數(shù)據(jù)工資一般多少(杭州大數(shù)據(jù)崗位)
大數(shù)據(jù)精準客戶(貸款客戶大數(shù)據(jù)精準獲客)
重復消費的行業(yè)排行榜(重復消費的行業(yè)排行榜有哪些)