這篇文章主要講解了“Hive任務執(zhí)行慢但是導入數(shù)據非常的快是為什么”，文中的講解內容簡單清晰，易于學習與理解，下面請大家跟著小編的思路慢慢深入，一起來研究和學習“Hive任務執(zhí)行慢但是導入數(shù)據非常的快是為什么”吧！

站在用戶的角度思考問題，與客戶深入溝通，找到龍安網站設計與龍安網站推廣的解決方案，憑借多年的經驗，讓設計與互聯(lián)網技術結合，創(chuàng)造個性化、用戶體驗好的作品，建站類型包括：做網站、成都做網站、企業(yè)官網、英文網站、手機端網站、網站推廣、域名注冊、網頁空間、企業(yè)郵箱。業(yè)務覆蓋龍安地區(qū)。

讀時模式和寫時模式

Hive使用Hadoop來執(zhí)行查詢，其查詢執(zhí)行速度是很慢的，但是使用load  data向Hive中導入數(shù)據卻非?？欤@是因為Hive采取的是讀時模式(Schema On Read)。

• 讀時模式：讀取數(shù)據的時候，對數(shù)據的類型、格式做檢查;

• 寫時模式：寫入數(shù)據的時候，對數(shù)據的類型、格式等規(guī)范做檢查;

將數(shù)據存到Hive的數(shù)據表時，Hive采用的是“讀時模式”，意思是針對寫操作不會做任何校驗，只是簡單的將文件復制到Hive的表對應的HDFS目錄。跟“讀時模式”相對應的是“寫時模式”，RDBMS一般采用“寫時模式”，在將數(shù)據寫入到數(shù)據表的時候會檢查每一條記錄是否合法，如果檢查不通過會直接返回失敗信息。

由于向Hive中存入數(shù)據的只是簡單的文件復制和粘貼，所以導入數(shù)據速度非常的快。當讀取、查詢的時候，才會根據表模式來解釋數(shù)據，這個時候如果遇到了不符合模式的數(shù)據，Hive會直接將數(shù)據解析成NULL。

讀時模式的好處

Hive采用讀時模式帶來了以下幾個好處：

• 向Hive表中新增數(shù)據非常的快，通常情況下對于外來數(shù)據，采用的方法是直接用Hadoop命令將文件上傳到一個HDFS目錄，Hive直接讀這個目錄;

• 一份數(shù)據可以被解析成多種模式，存儲在Hive表中的數(shù)據跟Hive本身沒有關系，數(shù)據也可以被其他工具比如Pig來處理;

導入數(shù)據

hive> load data local inpath '/root/usr.data' into table usr;

感謝各位的閱讀，以上就是“Hive任務執(zhí)行慢但是導入數(shù)據非常的快是為什么”的內容了，經過本文的學習后，相信大家對Hive任務執(zhí)行慢但是導入數(shù)據非常的快是為什么這一問題有了更深刻的體會，具體使用情況還需要大家實踐驗證。這里是創(chuàng)新互聯(lián)，小編將為大家推送更多相關知識點的文章，歡迎關注！

當前標題：Hive任務執(zhí)行慢但是導入數(shù)據非常的快是為什么
網頁鏈接：http://aaarwkj.com/article12/gpjigc.html

成都網站建設公司_創(chuàng)新互聯(lián)，為您提供定制網站、動態(tài)網站、Google、App設計、網站建設、網站設計

廣告

聲明：本網站發(fā)布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經允許不得轉載，或轉載時需注明來源： 創(chuàng)新互聯(lián)