本篇文章給大家分享的是有關(guān)spark api編程中如何在spark 1.2版本實現(xiàn)對union、groupbyke的分析,小編覺得挺實用的,因此分享給大家學(xué)習(xí),希望大家閱讀完這篇文章后可以有所收獲,話不多說,跟著小編一起來看看吧。
下面看下union的使用:
使用collect操作查看一下執(zhí)行結(jié)果:
再看下groupbykey的使用:
join操作就是一個笛卡爾積操作的過程,如下示例:
使用collect查看執(zhí)行結(jié)果:
可以看出join操作完全就是一個笛卡爾積的操作;
reduce本身在rdd操作中屬于一個action類型的操作,會導(dǎo)致job的提交和執(zhí)行:
下面我們看下lookup的使用:
以上就是spark api編程中如何在spark 1.2版本實現(xiàn)對union、groupbyke的分析,小編相信有部分知識點可能是我們?nèi)粘9ぷ鲿姷交蛴玫降?。希望你能通過這篇文章學(xué)到更多知識。更多詳情敬請關(guān)注箭頭云行業(yè)資訊頻道。