首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >如何在java中用apache SPARK拆分和过滤字符串

问如何在java中用apache SPARK拆分和过滤字符串
EN

Stack Overflow用户
提问于 2018-03-10 01:11:10
回答 1查看 1.2K关注 0票数 0

我已经学习了几个教程,但是我不能掌握我的想法(在我的例子中不能应用地图分割过滤器的原理),假设我有一个字符串“customer1,buy:order5”我想计算不同字符串中购买单词的数量以及我的流中客户购买的商品数量

代码语言:javascript
复制
            JavaDStream<String> words = lines.flatMap(x -> Arrays.asList(x.split(",")).iterator()).filter(x -> Arrays.asList(conteneur).contains(x));
        // compte le nombre d'ads accepté et le nombre d'add refusées
        JavaPairDStream<String,Integer> nbr = words.mapToPair(x -> new Tuple2<>(x,1)).reduceByKey((a,b) -> a+b);
       nbr.map((Function<Tuple2<String, Integer>, String>) tuple -> {

            return   String.valueOf(tuple._2) +","+tuple._1 ;}).print();

在下面的代码中,我计算了像"customer1,buy“这样的字符串流中的购买和卖出数量。

如果有人能给我解释一下,我会很高兴

EN

回答 1

Stack Overflow用户

发布于 2018-03-10 01:26:02

如果您的所有输入行都是"customer1,buy:order5“类型,那么您可以像这样编写代码:

代码语言:javascript
复制
int buy = sparkContext.textFile("sample-data.txt").map(s -> (s.split("buy").length - 1))
            .reduce((s1, s2) -> s1 + s2).intValue();
    System.out.println(buy);
票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/49198823

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档