首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏开源心路

    Phoenix优化

    那么索引数据的导入还需要采用phoenix提供的索引同步工具类 IndexTool , 这是一个mapreduce工具类,使用方式如下: $HBASE_HOME/bin/hbase org.apache.phoenix.mapreduce.index.IndexTool

    30210编辑于 2023-06-29
  • 来自专栏Spark学习技巧

    实战phoenix

    一 安装部署 1, 下载 http://archive.apache.org/dist/phoenix/ 本文下载的是apache-phoenix-4.12.0-HBase-1.2-bin.tar.gz 2, 安装 解压之后将phoenix-4.12.0-HBase-1.2-server.jar复制到hbase/lib目录下。 在phoenix的bin目录下执行: sqlline.py [zookeeper] . 映射hbase表到phoenix: 比如,在hbase上创建表t1,然后映射到phoenix上,分两步: 1, 创建hbase表 create 't1', {NAME => 'f1', VERSIONS VARCHAR) Hbase表中插入一条数据,phoenix表中查询 put 't1','1001','f1:VAL','lisi' 同时创建hbase和phoenix表: 也可以直接使用cteate

    1.6K100发布于 2018-01-31
  • 来自专栏星流全栈

    Phoenix Framework — 新一代的实时 Web 框架

    Jose Valim - Phoenix a web framework for the new web (Lambda Days 2016) 这是Elixir语言的设计者,Phoenix框架的主要贡献者 Jose Valim对于Phoenix框架的介绍视频。 Phoenix是一款使用Elixir编写的Web开发框架。它实现了服务端的MVC架构。它的许多组件和概念类似于我们常见的框架如Django和Ruby on Rails。 Phoenix提供了开发和生成环境的最佳实践,即高生产效率和高应用性能。它同时也有一些有趣的特性,如使用channels来实现实时特性和预编译的模板。

    2.6K50发布于 2018-06-01
  • 来自专栏python3

    python连接phoenix

    1.方案 这里我们通过Jpype和JayDeBeApi 来连接 2.过程 这里我列出实例代码: import jpype import jaydebeapi import os phoenix_client_jar ="/data/users/huser/phoenix/phoenix-4.3.0-client.jar" args=='-Djava.class.path=%s'% phoenix_client_jar jvm_path=jpype.getDefaultJVMPath() jpype.startJVM(jvm_path,args) conn=jaydebeapi.connect('org.apache.phoenix.jdbc.PhoenixDriver ',['jdbc:phoenix:bj-g2hdp1,bj-g2hdp2,bj-g2hdp3:2181','',''],phoenix_clinent_jar) curs=conn.cursor() sql

    1.4K20发布于 2020-01-03
  • 来自专栏文渊之博

    phoenix 索引实践

    注意: 对于全局索引在默认情况下,在查询语句中检索的列如果不在索引表中,Phoenix不会使用索引表将,除非使用hint。 ~]# cd /opt/cloudera/parcels/ [root@node00 parcels]# cd APACHE_PHOENIX/lib/phoenix [ root@node00 phoenix]# cp phoenix-4.14.0-cdh5.12.2-client.jar /opt/cloudera/parcels/CDH/jars/ /jars/phoenix-4.14.0-cdh5.12.2-client.jar phoenix-4.14.0-cdh5.12.2-client.jar 索引用法总结 Phoenix 的二级索引主要有两种 索引定义完之后,一般来说,Phoenix自己会判定使用哪个索引更加有效。 但是,全局索引必须是查询语句中所有列都包含在全局索引中,它才会生效。

    1.4K30发布于 2020-06-19
  • 来自专栏开源心路

    Phoenix 批量增加

    1.phoenix 利用CsvBulkLoadTool 批量带入数据并自动创建索引 在phoenix 目录下执行 hadoop jar /home/phoenix-4.6.0-HBase-1.0-bin /phoenix-4.6.0-HBase-1.0-client.jar   org.apache.phoenix.mapreduce.CsvBulkLoadTool -t POPULATION -i / 2.phoenix 自带sql导入工具 . "); PhoenixConnection conn = (PhoenixConnection) DriverManager.getConnection("jdbc:phoenix:ip","root 中,关系型数据库的数值类型到hbase中变成字节类型,映射到phoenix中,数值类型数据值改变了

    73110编辑于 2023-06-29
  • 来自专栏Debug客栈

    Phoenix框架 从0到1设计业务并发框架 怎么组织设计一个框架

    上篇文章主要讲了设计 Phoenix 框架前的遇到的问题和设计框架的思路 《 Phoenix 框架 从0到1设计业务并发框架 小米商城产品站革新之路》,本篇文章主要讲一下如何设计框架的。 不死鸟并发框架,是自动构建有向图按照深度进行构建并发组并进行并发调用结果的框架。 名词解释PhoenixFramework 不死鸟(凤凰)框架,此业务并发框架的名称;Task 在业务并发中定义一次调用,可以是 HTTP、DUBBO 或者是 Redis 获取、MySQL 读库操作;Transfer ,框架的设计主要的是要思考如何将实际业务中使用的模块抽象化设计,同时要思考框架的扩展性与强约束性。 结尾本篇文章主要讲解我如何将业务与调用关系进行抽象成 Trans 与 Task 的,接下来我将讲述并发框架并发线程池的核心设计、配置化思考、监控设计以及自动构建算法等系列文章。

    25800编辑于 2024-03-19
  • 来自专栏Hadoop数据仓库

    基于 HBase & Phoenix 构建实时数仓(3)—— Phoenix 安装

    Phoenix 相对于 HBase 来说就是一个支持 SQL 的客户端软件,为能在集群环境中任何节点上都能使用 Phoenix 命令行,在所有节点上都安装。 添加下面两行 export PHOENIX_HOME=/root/phoenix-hbase-2.5-5.1.3-bin/ export PHOENIX_CLASSPATH=$PHOENIX_HOME 将 phoenix-server-hbase-2.5-5.1.3.jar 文件复制到 HBase 的 lib 目录中 cp $PHOENIX_HOME/phoenix-server-hbase-2.5- 如果要在 Phoenix 中操作直接在 HBase 中创建的表,则需要在 Phoenix 中进行表的映射。映射方式有两种:视图映射和表映射。 参考: Apache Phoenix 映射已存在 HBase 表,查询不到数据 https://phoenix.apache.org/installation.html

    94310编辑于 2024-03-09
  • 来自专栏Debug客栈

    Phoenix框架 从0到1设计业务并发框架 小米商城产品站革新之路

    小米商城产品站之前由于历史原因,存在着诸多问题与不便,随着技术的快速变革,技术部中台化的建设,越来越不适用于现在快速迭代的业务需求,接下来我将以技术的视角讲解我们遇到的痛点,以及解决这些痛点的思路,也就是 Phoenix 框架诞生的故事。 我调研发现业界 LiteFlow 框架是最受欢迎与好评的框架,于是在 Github 上面去了解框架底层实现的细节,随着深入阅读源码,发现这款框架设计的是真的很优秀,但是也过于庞大、复杂,特别是 EL 规则的写法 ,也就是 Phoenix Framework。 Phoenix,最初在周志明老师的网站"凤凰架构"提及,一方面是对周老师的架构设计理解与 Java 相关知识学习的致敬,另一方面,Phoenix 不死鸟,软件的生命周期也是如此,随着业务的快速发展诞生、

    33821编辑于 2024-03-08
  • 来自专栏Debug客栈

    Phoenix框架 从0到1设计业务并发框架 并发线程池的核心设计

    背景从 0 到 1 设计业务并发框架系列:Phoenix 框架 小米商城产品站革新之路Phoenix 框架 怎么组织设计一个框架前两篇文章已经讲述了我设计框架的背景以及抽象设计的细节,今天讲一下并发框架最为关键的并发线程池的核心设计 这个版本作为线上生产环境的第一个版本推了上去,单台 8C 8G (k8s) 的配置空跑框架达到了 QPS 在 1.4w,接口可用性在 99.96%(结果仅供参考,根据公司集群部署策略、机器性能等问题会有浮动 写在最后本篇文章主要讲框架设计中怎么将划分好的分层并发执行,最终我们采用了独立线程池的方案,并且按照耗时、CPU 核数等权重评估分配每个 Task 任务线程池的大小,让 CPU 线程调度来确保线程都尽可能的公平执行到

    37721编辑于 2024-04-07
  • 来自专栏学习内容

    HBase整合Phoenix

    一、简介 1、Phoenix定义 1)官网地址:http://phoenix.apache.org/ Phoenix是HBase的开源SQL皮肤。 2、Phoenix架构 二、安装Phoenix 1、安装 将安装包上传到服务器目录 解压安装包 tar -zxvf apache-phoenix-5.0.0-HBase-2.0-bin.tar.gz - /my_env.sh 添加内容 #phoenix export PHOENIX_HOME=/opt/module/phoenix export PHOENIX_CLASSPATH=$PHOENIX_HOME /opt/module/phoenix/bin/sqlline.py hadoop101,hadoop102,hadoop103:2181 三、Phoenix操作 1、Phoenix 数据映射 Phoenix 2、Phoenix Shell操作 登录Phoenix /opt/module/phoenix/bin/sqlline.py hadoop101,hadoop102,hadoop103:2181 创建表

    82410编辑于 2023-12-04
  • 来自专栏后台技术底层理解

    Phoenix的使用

    phoenix可以处理实时数据 (1)启动数据库的连接 bin/sqlline.py数据库安装服务器ip或主机名:zookeeper的服务端口号 !table查看所有的表使用 ! )创建表 create table hbase_test ( s1 varchar not null primary key, s2 varchar, s3 varchar, s4 varchar 在phoenix 是查看不到的 如果需要在phoenix中操作直接在hbase中创建的表,则需要在phoenix中进行表的映射。 表映射的话,在phoenix中的表与hbase中的表会被同时删除与修改,视图映射中的表删除,hbase中的表不会被删除。 address"varchar); 种情况下,直接使用与第1)种情况一样的createtable语句进行创建即可,这样系统将会自动在Phoenix和HBase中创建person_infomation的表

    1.2K20发布于 2020-08-05
  • 来自专栏大数据杂货铺

    FAQ系列之Phoenix

    查找有关 Apache Phoenix 及其部署的常见问题解答。 Phoenix 可以用于 ETL 用例吗? 是的。 Phoenix 在全局索引维护期间执行本地索引以防止死锁。:当索引更新失败时,Phoenix 还会部分自动重建索引 ( PHOENIX-1112 )。 序列如何在Phoenix工作? 我可以在 Phoenix 中进行批量数据加载吗? 是的,您可以在 Phoenix 中进行批量插入。 是的,只要使用 Phoenix 数据类型。您必须使用异步索引并手动更新它们,因为 Phoenix 不会知道任何更新。 Phoenix JDBC URL 语法是什么? 从 Phoenix 2.1 版开始,Phoenix 支持对可变和不可变数据进行索引。请注意,Phoenix 2.0.x 仅支持对不可变数据进行索引。

    4.2K30发布于 2021-07-27
  • 来自专栏大数据杂货铺

    Phoenix常见问题

    查找有关Apache Phoenix及其部署的常见问题的答案。 01 Phoenix可以用于ETL用例吗? 是。 典型的Phoenix部署具有以下特点: • 应用 • Phoenix Client / JDBC驱动程序 • HBase客户端 Phoenix客户端/ JDBC驱动程序本质上是一个Java库,您应该在 但是,Phoenix的抽象尚未完成,例如,为了实现访问控制,您需要在包含Phoenix数据的基础HBase表上设置ACL。 ? 03 是否有Phoenix JDBC服务器的大小调整准则? Phoenix在全局索引维护期间执行本地索引以防止死锁:Phoenix还会在索引更新失败时部分地自动重建索引(PHOENIX-1112 )。 07 序列在Phoenix中如何工作? 数据是由Phoenix编码的,因此您必须对数据进行解码才能读取。直接写入HBase表会导致Phoenix损坏。 11 我可以在现有的HBase表上映射Phoenix表吗?

    1.6K30发布于 2020-10-29
  • 来自专栏迹_Jason的AppZone

    Vertx-Phoenix实践

    前言 Vertx Vertx是一个高效的异步框架,支持Java、Scala、JavaScript、Kotlin等多种语言。 Phoenix 大数据的同学肯定对其很了解,是Apache基金会下的顶级工程,Phoenix帮助Hbase提供了SQL语法的支持,让难用的Hbase变得简单易用。 现状 使用HBase作为数据的持久化 场景对接口的TPS要求比较高 操作方式简单 问题与方案 Hbase是一种很好的大数据存储方案,但是其不支持SQL化操作,在开源解决方案中提供了Phoenix方案,文档和社区都比较活跃 实现 只对涉及Phoenix方面进行讲解,通过Scala进行编写 依赖Pom <dependency> <groupId>io.vertx</groupId> <artifactId </groupId> <artifactId>phoenix-core</artifactId> <version>4.13.1-HBase-1.3</version> </dependency

    1.1K30发布于 2019-05-29
  • 来自专栏有困难要上,没有困难创造困难也要上!

    使用phoenix查询hbase

    下载安装 首先从 apache 下载 phoenix 包,这里因为我的hbase hbase-1.4.9 版,所以我下载的对应的版本 apache-phoenix-4.14.1-HBase-1.4-bin.tar.gz 下载后解压之 apache-phoenix-4.14.1-HBase-1.4-bin.tar.gz tar zxvf apache-phoenix-4.14.1-HBase-1.4-bin.tar.gz 准备 hbase 为了使用 phoenix,需要将 phoenix 目录下的 phoenix-*。 jar 包复制到 hbase 的 lib 目录下,比如: cp apache-phoenix-4.14.1-HBase-1.4-bin/phoenix-*.jar hbase-1.4.9/lib/ 然后重新系统 /start-hbase.sh 连接phoenix 可以使用下面两种方式连接 方式一:直接连接 cd apache-phoenix-4.14.1-HBase-1.4-bin/bin # 默认连接本地hbase

    4.2K40发布于 2019-03-11
  • 来自专栏开源心路

    phoenix删除数据

    操作过程: 第一步删除phoenix中系统的表格信息,主要为SYSTEM.CATALOG,第二步删除Hbase中的表格信息。 操作步骤: (1)查询phoenix系统表  SYSTEM.CATALOG 内容是所有表格的信息,系统表和自建表 SYSTEM.FUNCTION 内容是所有函数信息,系统函数和自定义函数 SYSTEM.SEQUENCE

    55110编辑于 2023-06-29
  • 来自专栏性能与架构

    Phoenix - Hbase与SQL

    Phoenix是什么 简单来说,Phoenix 是一个可以让我们通过SQL的方式操作HBase数据库的框架。 使用Phoenix的话,就可以使用SQL来查询,便捷高效,同时还可以为HBase添加二级索引,提升查询性能,还有其他一些方便的特性。 Phoenix 支持通过编写JDBC代码来操作HBase,比原生API更方便。 查询表数据: 0: jdbc:phoenix:localhost> select * from WEB_STAT; ? CORE、DB字段是CPU和数据库使用量。 小结 Phoenix 的基础功能就是在 HBase 之上添加了 SQL 层,可以让我们更方便的使用 HBase。

    1.3K60发布于 2018-04-04
  • 来自专栏Debug客栈

    Phoenix框架 从0到1设计业务并发框架 自动构建有向无循环图设计

    从 0 到 1 设计业务并发框架系列:Phoenix 框架 小米商城产品站革新之路Phoenix 框架 怎么组织设计一个框架Phoenix 框架 并发线程池的核心设计Phoenix 自动构建有向无环图的业务并发框架 ,首先定义好 Builder 的实现方式,如下:/** * @author debuginn */public interface PhoenixBuilder { // 过滤 Phoenix Task 是否存在相互依赖或循环依赖;将每个 API 收集上来的 Task 按照先后依赖关系进行分组划分;打印并发分组信息,用来给开发者调试及校验使用;由于存在依赖关系,需要进行分层设计,这里可以结合 Phoenix 框架 怎么组织设计一个框架 来看,然而每一层并不需要关系执行的顺序问题,这里采用了最简单的数据结构存储分层信息,Map<String, ArrayList<ArrayList<TaskObj>>> Key 不仅这里,Phoenix 框架尽可能的采用策略模式实现,将核心功能点都进行拆分,做到模块化设计,这样的设计正是 Phoenix 框架的设计初衷,生生不息,持续迭代。

    36921编辑于 2024-05-13
  • 来自专栏我是攻城师

    Apache Phoenix安装使用

    http://qindongliang.iteye.com/blog/2222145 Hbase安装 http://qindongliang.iteye.com/blog/2095733 框架版本 官网地址 phoenix https://phoenix.apache.org/language/ 下载地址:http://archive.apache.org/dist/phoenix/ tables查看所有的表 文档地址: phoenix https://phoenix.apache.org/language/ SQuirrel是一个用Java写的通过jdbc驱动链接各个数据库的图形界面 安装完成后,把phoeinx的client和core的jar包,放入squirrel的安装目录的lib下面,然后双击squirrel-sql.bat启动 test-phoenix jdbc:phoenix :192.168.1.212 org.apache.phoenix.jdbc.PhoenixDriver (1)先建立驱动,通过链接 ?

    1.9K70发布于 2018-05-14
领券