婷婷综合国产,91蜜桃婷婷狠狠久久综合9色 ,九九九九九精品,国产综合av

主頁 > 知識庫 > hive函數(shù)簡介

hive函數(shù)簡介

熱門標(biāo)簽:怎么去開發(fā)一個電銷機器人 ai電話電話機器人 泗洪正規(guī)電話機器人找哪家 簡單的智能語音電銷機器人 南昌呼叫中心外呼系統(tǒng)哪家好 怎么申請400熱線電話 湖南保險智能外呼系統(tǒng)產(chǎn)品介紹 小程序智能電話機器人 河北便宜電銷機器人軟件

首先我們要知道hive到底是做什么的。下面這幾段文字很好的描述了hive的特性: 

 1.hive是基于Hadoop的一個數(shù)據(jù)倉庫工具,可以將結(jié)構(gòu)化的數(shù)據(jù)文件映射為一張數(shù)據(jù)庫表,并提供完整的sql查詢功能,可以將sql語句轉(zhuǎn)換為MapReduce任務(wù)進行運行。其優(yōu)點是學(xué)習(xí)成本低,可以通過類SQL語句快速實現(xiàn)簡單的MapReduce統(tǒng)計,不必開發(fā)專門的MapReduce應(yīng)用,十分適合數(shù)據(jù)倉庫的統(tǒng)計分析。

  2.Hive是建立在 Hadoop 上的數(shù)據(jù)倉庫基礎(chǔ)構(gòu)架。它提供了一系列的工具,可以用來進行數(shù)據(jù)提取轉(zhuǎn)化加載(ETL),這是一種可以存儲、查詢和分析存儲在 Hadoop 中的大規(guī)模數(shù)據(jù)的機制。Hive 定義了簡單的類 SQL 查詢語言,稱為 HQL,它允許熟悉 SQL 的用戶查詢數(shù)據(jù)。同時,這個語言也允許熟悉 MapReduce 開發(fā)者的開發(fā)自定義的 mapper 和 reducer 來處理內(nèi)建的 mapper 和 reducer 無法完成的復(fù)雜的分析工作。

  要理解hive,必須先理解hadoop和mapreduce,如果有不熟悉的童鞋,可以百度一下。

  使用hive的命令行接口,感覺很像操作關(guān)系數(shù)據(jù)庫,但是hive和關(guān)系數(shù)據(jù)庫還是有很大的不同,下面我就比較下hive與關(guān)系數(shù)據(jù)庫的區(qū)別,具體如下:

1.hive和關(guān)系數(shù)據(jù)庫存儲文件的系統(tǒng)不同,hive使用的是hadoop的HDFS(hadoop的分布式文件系統(tǒng)),關(guān)系數(shù)據(jù)庫則是服務(wù)器本地的文件系統(tǒng);

2.hive使用的計算模型是mapreduce,而關(guān)系數(shù)據(jù)庫則是自己設(shè)計的計算模型;

3.關(guān)系數(shù)據(jù)庫都是為實時查詢的業(yè)務(wù)進行設(shè)計的,而hive則是為海量數(shù)據(jù)做數(shù)據(jù)挖掘設(shè)計的,實時性很差;實時性的區(qū)別導(dǎo)致hive的應(yīng)用場景和關(guān)系數(shù)據(jù)庫有很大的不同;

4.Hive很容易擴展自己的存儲能力和計算能力,這個是繼承hadoop的,而關(guān)系數(shù)據(jù)庫在這個方面要比數(shù)據(jù)庫差很多。

  以上都是從宏觀的角度比較hive和關(guān)系數(shù)據(jù)庫的區(qū)別,hive和關(guān)系數(shù)據(jù)庫的異同還有很多,我在文章的后面會一一描述。

  下面我來講講hive的技術(shù)架構(gòu),大家先看下面的架構(gòu)圖: 

  由上圖可知,hadoop和mapreduce是hive架構(gòu)的根基。Hive架構(gòu)包括如下組件:CLI(command line interface)、JDBC/ODBC、Thrift Server、WEB GUI、metastore和Driver(Complier、Optimizer和Executor),這些組件我可以分為兩大類:服務(wù)端組件和客戶端組件。

   首先講講服務(wù)端組件:

  Driver組件:該組件包括Complier、Optimizer和Executor,它的作用是將我們寫的HiveQL(類SQL)語句進行解析、編譯優(yōu)化,生成執(zhí)行計劃,然后調(diào)用底層的mapreduce計算框架。

  Metastore組件:元數(shù)據(jù)服務(wù)組件,這個組件存儲hive的元數(shù)據(jù),hive的元數(shù)據(jù)存儲在關(guān)系數(shù)據(jù)庫里,hive支持的關(guān)系數(shù)據(jù)庫有derby、mysql。元數(shù)據(jù)對于hive十分重要,因此hive支持把metastore服務(wù)獨立出來,安裝到遠程的服務(wù)器集群里,從而解耦hive服務(wù)和metastore服務(wù),保證hive運行的健壯性,這個方面的知識,我會在后面的metastore小節(jié)里做詳細(xì)的講解。

  Thrift服務(wù):thrift是facebook開發(fā)的一個軟件框架,它用來進行可擴展且跨語言的服務(wù)的開發(fā),hive集成了該服務(wù),能讓不同的編程語言調(diào)用hive的接口。

  客戶端組件:

  CLI:command line interface,命令行接口。

  Thrift客戶端:上面的架構(gòu)圖里沒有寫上Thrift客戶端,但是hive架構(gòu)的許多客戶端接口是建立在thrift客戶端之上,包括JDBC和ODBC接口。

  WEBGUI:hive客戶端提供了一種通過網(wǎng)頁的方式訪問hive所提供的服務(wù)。這個接口對應(yīng)hive的hwi組件(hive web interface),使用前要啟動hwi服務(wù)。

  下面我著重講講metastore組件,具體如下:

  Hive的metastore組件是hive元數(shù)據(jù)集中存放地。Metastore組件包括兩個部分:metastore服務(wù)和后臺數(shù)據(jù)的存儲。后臺數(shù)據(jù)存儲的介質(zhì)就是關(guān)系數(shù)據(jù)庫,例如hive默認(rèn)的嵌入式磁盤數(shù)據(jù)庫derby,還有mysql數(shù)據(jù)庫。Metastore服務(wù)是建立在后臺數(shù)據(jù)存儲介質(zhì)之上,并且可以和hive服務(wù)進行交互的服務(wù)組件,默認(rèn)情況下,metastore服務(wù)和hive服務(wù)是安裝在一起的,運行在同一個進程當(dāng)中。我也可以把metastore服務(wù)從hive服務(wù)里剝離出來,metastore獨立安裝在一個集群里,hive遠程調(diào)用metastore服務(wù),這樣我們可以把元數(shù)據(jù)這一層放到防火墻之后,客戶端訪問hive服務(wù),就可以連接到元數(shù)據(jù)這一層,從而提供了更好的管理性和安全保障。使用遠程的metastore服務(wù),可以讓metastore服務(wù)和hive服務(wù)運行在不同的進程里,這樣也保證了hive的穩(wěn)定性,提升了hive服務(wù)的效率。

  Hive的執(zhí)行流程如下圖所示:

圖描述的很清晰了,我這里就不在累述了。

下面我給大家展示一個簡單的例子,看看hive是怎么操作的。

首先我們創(chuàng)建一個普通的文本文件,里面只有一行數(shù)據(jù),該行也只存儲一個字符串,命令如下:

echo ‘sharpxiajun' > /home/hadoop/test.txt

然后我們建一張hive的表:

hive –e “create table test (value string);

接下來加載數(shù)據(jù):

Load data local inpath ‘home/hadoop/test.txt' overwrite into table test

最后我們查詢下表:

hive –e ‘select * from test';

  大家看到了吧,hive十分簡單,很好入門,操作和sql很像,下面我就要深入分析下hive與關(guān)系數(shù)據(jù)庫的區(qū)別,這部分可能有些人看的不是很明白,但是很有必要提前提出,以后我的文章里將進一步講述hive,那時不太明白的童鞋在看看這部分,很多問題就會清晰很多,具體如下:

1.關(guān)系數(shù)據(jù)庫里,表的加載模式是在數(shù)據(jù)加載時候強制確定的(表的加載模式是指數(shù)據(jù)庫存儲數(shù)據(jù)的文件格式),如果加載數(shù)據(jù)時候發(fā)現(xiàn)加載的數(shù)據(jù)不符合模式,關(guān)系數(shù)據(jù)庫則會拒絕加載數(shù)據(jù),這個就叫“寫時模式”,寫時模式會在數(shù)據(jù)加載時候?qū)?shù)據(jù)模式進行檢查校驗的操作。Hive在加載數(shù)據(jù)時候和關(guān)系數(shù)據(jù)庫不同,hive在加載數(shù)據(jù)時候不會對數(shù)據(jù)進行檢查,也不會更改被加載的數(shù)據(jù)文件,而檢查數(shù)據(jù)格式的操作是在查詢操作時候執(zhí)行,這種模式叫“讀時模式”。在實際應(yīng)用中,寫時模式在加載數(shù)據(jù)時候會對列進行索引,對數(shù)據(jù)進行壓縮,因此加載數(shù)據(jù)的速度很慢,但是當(dāng)數(shù)據(jù)加載好了,我們?nèi)ゲ樵償?shù)據(jù)的時候,速度很快。但是當(dāng)我們的數(shù)據(jù)是非結(jié)構(gòu)化,存儲模式也是未知時候,關(guān)系數(shù)據(jù)操作這種場景就麻煩多了,這時候hive就會發(fā)揮它的優(yōu)勢。

2.關(guān)系數(shù)據(jù)庫一個重要的特點是可以對某一行或某些行的數(shù)據(jù)進行更新、刪除操作,hive不支持對某個具體行的操作,hive對數(shù)據(jù)的操作只支持覆蓋原數(shù)據(jù)和追加數(shù)據(jù)。Hive也不支持事務(wù)和索引。更新、事務(wù)和索引都是關(guān)系數(shù)據(jù)庫的特征,這些hive都不支持,也不打算支持,原因是hive的設(shè)計是海量數(shù)據(jù)進行處理,全數(shù)據(jù)的掃描時常態(tài),針對某些具體數(shù)據(jù)進行操作的效率是很差的,對于更新操作,hive是通過查詢將原表的數(shù)據(jù)進行轉(zhuǎn)化最后存儲在新表里,這和傳統(tǒng)數(shù)據(jù)庫的更新操作有很大不同。

3.Hive也可以在hadoop做實時查詢上做一份自己的貢獻,那就是和hbase集成,hbase可以進行快速查詢,但是hbase不支持類SQL的語句,那么此時hive可以給hbase提供sql語法解析的外殼,可以用類sql語句操作hbase數(shù)據(jù)庫

您可能感興趣的文章:
  • Mysql 5.7.19 winx64 ZIP Archive 安裝及使用過程問題小結(jié)
  • php使用ZipArchive函數(shù)實現(xiàn)文件的壓縮與解壓縮
  • nodejs下打包模塊archiver詳解
  • php使用ZipArchive提示Fatal error: Class ZipArchive not found in的解決方法
  • php的ZipArchive類用法實例
  • ORACLE DATAGUARD中手工處理日志v$archive_GAP的方法
  • php ZipArchive壓縮函數(shù)詳解實例

標(biāo)簽:景德鎮(zhèn) 江蘇 瀘州 威海 柳州 荊門 那曲 淮安

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《hive函數(shù)簡介》,本文關(guān)鍵詞  hive,函數(shù),簡介,hive,函數(shù),;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題,煩請?zhí)峁┫嚓P(guān)信息告之我們,我們將及時溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《hive函數(shù)簡介》相關(guān)的同類信息!
  • 本頁收集關(guān)于hive函數(shù)簡介的相關(guān)信息資訊供網(wǎng)民參考!
  • 推薦文章
    婷婷综合国产,91蜜桃婷婷狠狠久久综合9色 ,九九九九九精品,国产综合av
    肉丝袜脚交视频一区二区| 国产精品美女久久久久久 | 亚洲午夜国产一区99re久久| 一本到高清视频免费精品| 国产视频视频一区| 欧美sm美女调教| 亚洲成人自拍一区| 麻豆成人在线观看| 成人黄页在线观看| 97国产一区二区| 不卡影院免费观看| 日韩视频一区二区在线观看| 亚洲精品一二三区| 美女视频一区二区| 国产精品亚洲а∨天堂免在线| 亚洲午夜三级在线| 婷婷夜色潮精品综合在线| 国产露脸91国语对白| 99国产精品久久久| 日韩午夜电影av| 亚洲国产日韩一级| 免费国产亚洲视频| 粉嫩欧美一区二区三区高清影视| 欧美日韩不卡一区| 国产精品看片你懂得| 午夜精品福利在线| 国产精品18久久久久久久久久久久| 欧美猛男男办公室激情| 中文幕一区二区三区久久蜜桃| 日韩精品国产精品| 亚洲欧美另类图片小说| 国产日本欧洲亚洲| 久久免费视频一区| 欧洲av一区二区嗯嗯嗯啊| 久久先锋资源网| 亚洲最大成人网4388xx| 高清不卡在线观看| 午夜av区久久| 欧美日韩国产综合一区二区| 久久精品人人做| 国产在线观看免费一区| 日韩毛片视频在线看| 男男成人高潮片免费网站| 波多野结衣91| 99天天综合性| 在线综合视频播放| 91精品国产aⅴ一区二区| 日本美女一区二区| 国产欧美日韩综合精品一区二区| 蜜臀久久99精品久久久久久9| 日韩一区二区免费高清| 中文字幕在线播放不卡一区| 99久久免费国产| 国产视频一区不卡| 欧美精品一区二区三区视频| 欧美精品vⅰdeose4hd| 欧美二区在线观看| 久久久久久99精品| 亚洲激情在线播放| 韩日精品视频一区| 色婷婷综合久久久久中文一区二区| 日韩午夜在线播放| 国产精品久久久久久久第一福利| 亚洲精品国产高清久久伦理二区| 国产精品久久久99| 亚洲激情欧美激情| 国产精品一区二区久久不卡| 91亚洲精品久久久蜜桃网站| 欧美日韩一区国产| 国产精品理论在线观看| 国产精品一区二区三区四区| 日韩欧美一区二区免费| 亚洲国产综合视频在线观看| 琪琪久久久久日韩精品| 麻豆精品一二三| 欧美另类一区二区三区| 亚洲一区二区精品3399| 91传媒视频在线播放| 久久久综合精品| 麻豆精品视频在线| 精品国产sm最大网站免费看| 中文成人av在线| 亚洲欧美乱综合| 91老师片黄在线观看| 亚洲人精品午夜| 色婷婷av一区二区三区软件| 久久精品这里都是精品| 国产一区二区三区免费观看| 久久久一区二区三区| 不卡影院免费观看| 欧美视频一区二区三区在线观看 | 成人av电影免费观看| 国产精品每日更新在线播放网址| 久久久久久毛片| 亚洲一二三四区| 99re这里都是精品| 欧美国产日韩精品免费观看| 最新国产精品久久精品| 欧美日韩久久不卡| 成人av电影免费在线播放| 亚洲大片一区二区三区| 久久精品视频免费| 国产福利91精品一区| 久久久精品国产免大香伊| 91美女片黄在线观看91美女| 免费观看日韩电影| 欧美国产一区二区在线观看| 美腿丝袜在线亚洲一区| 精品人在线二区三区| 国产乱人伦精品一区二区在线观看| 中文字幕一区二区三区不卡 | 26uuu精品一区二区| 日本欧美肥老太交大片| 精品久久国产97色综合| 欧美日韩国产高清一区二区三区 | 亚洲乱码一区二区三区在线观看| 国产·精品毛片| 午夜精品成人在线| 国产日韩一级二级三级| 日韩免费视频一区二区| 在线观看一区二区视频| 东方欧美亚洲色图在线| 激情五月婷婷综合网| 成人丝袜视频网| 久久精品噜噜噜成人av农村| 蜜桃视频在线观看一区二区| 免费成人结看片| 日产精品久久久久久久性色| 婷婷综合在线观看| 精品一区二区三区免费毛片爱| 男人的天堂亚洲一区| 国产一区二区在线观看免费| 国产精品自拍av| 国内精品国产成人国产三级粉色| 久久国产福利国产秒拍| 国产伦精品一区二区三区免费迷 | 一区av在线播放| 奇米四色…亚洲| av电影在线观看不卡| 国产精品久久一卡二卡| 激情文学综合丁香| 国产二区国产一区在线观看| 国产99久久精品| av在线一区二区三区| 日韩一区二区三区在线观看 | 91官网在线免费观看| 欧美人与性动xxxx| 国产日产欧美一区二区三区| 亚洲欧美日韩国产手机在线| 国产精品亚洲第一区在线暖暖韩国 | 精品88久久久久88久久久| 国产三级精品三级| 一区二区三区.www| 欧日韩精品视频| 日产国产欧美视频一区精品| 精品国产自在久精品国产| 国产伦精品一区二区三区免费 | 欧美视频一区在线| 午夜电影一区二区| 91丨九色porny丨蝌蚪| 亚洲国产aⅴ天堂久久| 制服丝袜中文字幕亚洲| 国产麻豆精品theporn| 国产色91在线| 制服丝袜日韩国产| 亚洲电影视频在线| 日本韩国精品在线| 亚瑟在线精品视频| 欧美巨大另类极品videosbest | 久久69国产一区二区蜜臀| 制服丝袜国产精品| 老司机精品视频线观看86| 精品动漫一区二区三区在线观看| 欧美日韩一区二区不卡| 亚洲制服丝袜av| 精品理论电影在线观看| www.亚洲免费av| 三级在线观看一区二区 | 亚洲不卡在线观看| 91亚洲国产成人精品一区二区三| 久久久久久久精| 风间由美一区二区三区在线观看| 精品精品欲导航| 福利一区二区在线| 国产精品久久久久aaaa| 99久久久国产精品| 一区二区三区在线影院| 欧美日韩性生活| 国产91精品在线观看| 亚洲激情一二三区| 日韩精品一区二区三区视频播放 | 丝袜美腿成人在线| 久久精品视频一区| 国产成人免费9x9x人网站视频| 亚洲欧洲av在线| 欧美日韩精品高清| 国产露脸91国语对白| 亚洲一区视频在线| 国产欧美视频一区二区| 欧美在线播放高清精品|