Spark-Redis 连接器提供了Spark对接Redis的桥梁。 通过Spark-Redis 连接器, StructuredStreaming可以使用Redis Stream作为数据源,经过Spark处理后数据再写回Redis。 Spark-Redis连接器支持使用Redis Stream作为数据源,非常适用这个场景,把Redis Stream数据对接到Spark 引擎。 这里使用Spark-Redis连接器,需要创建一个SparkSession并带上Redis的连接信息。 Spark-SQL通过Spark-Redis连接器直接查询Redis数据,统计了广告的点击数。
Redis团队的目标是提升Spark的分析功能,为此开发了Spark-Redis连接件。这个程序包让Spark得以使用Redis作为其数据源之一。 Redis团队使用Cloudera的Spark时间序列程序包,构建了一个Spark-Redis时间序列程序包,使用Redis有序集合来加快时间序列分析。 该指南将逐步引导你安装典型的Spark集群和Spark-Redis程序包。它还用一个简单的单词计数例子,表明了可以如何结合使用Spark和Redis。 你在试用过Spark和Spark-Redis程序包后,可以进一步探究利用其他Redis数据结构的更多场景。 Spark-Redis这对组合拥有无限的应用前景。 Spark支持一系列广泛的分析,包括SQL、机器学习、图形计算和Spark Streaming。
(https://github.com/RedisLabs/spark-redis) 在该网址中已经介绍: sc = new SparkContext(new SparkConf() .setMaster
参考文献 1 Spark中redis连接池的几种使用方法 http://mufool.com/2017/07/04/spark-redis/ 2 java机制:类的加载详解 https://blog.csdn.net