首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏大数据成神之路

    广告点击数实时统计:Spark StructuredStreaming + Redis Streams

    Spark-Redis 连接器提供了Spark对接Redis的桥梁。 通过Spark-Redis 连接器, StructuredStreaming可以使用Redis Stream作为数据源,经过Spark处理后数据再写回Redis。 Spark-Redis连接器支持使用Redis Stream作为数据源,非常适用这个场景,把Redis Stream数据对接到Spark 引擎。 这里使用Spark-Redis连接器,需要创建一个SparkSession并带上Redis的连接信息。 Spark-SQL通过Spark-Redis连接器直接查询Redis数据,统计了广告的点击数。

    2K20发布于 2019-06-14
  • 来自专栏Albert陈凯

    借助 Redis ,让 Spark 提速 45 倍!

    Redis团队的目标是提升Spark的分析功能,为此开发了Spark-Redis连接件。这个程序包让Spark得以使用Redis作为其数据源之一。 Redis团队使用Cloudera的Spark时间序列程序包,构建了一个Spark-Redis时间序列程序包,使用Redis有序集合来加快时间序列分析。 该指南将逐步引导你安装典型的Spark集群和Spark-Redis程序包。它还用一个简单的单词计数例子,表明了可以如何结合使用Spark和Redis。 你在试用过Spark和Spark-Redis程序包后,可以进一步探究利用其他Redis数据结构的更多场景。 Spark-Redis这对组合拥有无限的应用前景。 Spark支持一系列广泛的分析,包括SQL、机器学习、图形计算和Spark Streaming。

    1.7K30发布于 2018-04-04
  • 来自专栏大数据智能实战

    spark访问redis集群中某个数据库的问题

    (https://github.com/RedisLabs/spark-redis) 在该网址中已经介绍: sc = new SparkContext(new SparkConf() .setMaster

    1K20编辑于 2022-05-07
  • 来自专栏技术学习

    Spark UDF加载外部资源

    参考文献 1 Spark中redis连接池的几种使用方法 http://mufool.com/2017/07/04/spark-redis/ 2 java机制:类的加载详解 https://blog.csdn.net

    5.9K53发布于 2020-08-28
领券