這篇文章主要講解了“Spark的RDD操作有哪些”,文中的講解內容簡單清晰,易于學習與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學習“Spark的RDD操作有哪些”吧!
創(chuàng)新互聯(lián)長期為上千余家客戶提供的網站建設服務,團隊從業(yè)經驗10年,關注不同地域、不同群體,并針對不同對象提供差異化的產品和服務;打造開放共贏平臺,與合作伙伴共同營造健康的互聯(lián)網生態(tài)環(huán)境。為大豐企業(yè)提供專業(yè)的網站建設、成都網站設計,大豐網站改版等技術服務。擁有十年豐富建站經驗和眾多成功案例,為您定制開發(fā)。
Spark的RDD
在Spark中一切都是以RDD為基礎和核心的:
每個RDD的API如下所示:
Spark官方文檔中給出了的眾多的RDD:
RDD中的操作分為transformations和actions兩種:
下面舉一個例子來說明RDD的使用:
另外有兩個特殊的RDD:
他們都是controlling operations:
RDD在執(zhí)行的時候都是并行的:
Spark的高容錯機制lineage
基于DAG圖,lineage是輕量級而高效的:
操作之間相互具備lineage的關系,每個操作只關心其父操作,各個分片的數(shù)據(jù)之間互不影響,出現(xiàn)錯誤的時候只要恢復單個Split的特定部分即可:
感謝各位的閱讀,以上就是“Spark的RDD操作有哪些”的內容了,經過本文的學習后,相信大家對Spark的RDD操作有哪些這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是創(chuàng)新互聯(lián),小編將為大家推送更多相關知識點的文章,歡迎關注!
文章題目:Spark的RDD操作有哪些
網頁鏈接:http://aaarwkj.com/article20/isgjco.html
成都網站建設公司_創(chuàng)新互聯(lián),為您提供手機網站建設、網站排名、自適應網站、網站內鏈、域名注冊、App開發(fā)
聲明:本網站發(fā)布的內容(圖片、視頻和文字)以用戶投稿、用戶轉載內容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內容未經允許不得轉載,或轉載時需注明來源: 創(chuàng)新互聯(lián)