2020年2月11日 第523页
-
快速入门_作业服务LivyServer_开发指南_X-Pack Spark计算服务_云数据库 HBase 版
快速入门 上传作业jar包及python等文件分析集群选择使用HttpFS服务来供用户上传管理作业的jar包、python文件等到服务端 1、从分析集群控制台获取HttpFS服务地址,比如: HttpFS: http://ap-xxx-.9b78df04-b.rds.aliyuncs.com:140002、使用...
-
Spark访问外部HDFS_最佳实践_X-Pack Spark计算服务_云数据库 HBase 版
Spark访问外部HDFS 在一些场景下,Spark集群需要访问外部集群的HDFS 注意:hdfs端口打开后,因误操作hdfs导致的数据丢失等问题客户自身承担,客户需要对hdfs的操作比较了解。 访问限制 目前支持的是 同VPC内的Spark 访问外部HDFS,暂时不支持公网访问。请将同VPC的Spark实例...
-
交互式调试及作业编排调度_最佳实践_X-Pack Spark计算服务_云数据库 HBase 版
交互式调试及作业编排调度 交互式调试在开发测试阶段,如果需要一个所见即所得的交互式开发测试环境,可以使用Apache Zeppelin对接LivyServer来搭建交互式工作台,具有以下好处: 支持pyspark、scala/java、sql的开发调试交互式的返回结果,方便调试支持通过浏览器编写代码片段进行调...
-
资源管理用户手册_作业服务LivyServer_开发指南_X-Pack Spark计算服务_云数据库 HBase 版
资源管理用户手册 目前用户的jar包、python等资源文件使用HttpFs来进行管理。目前可以使用命令行或者Restful API来管理这些资源。 HttpFs服务端口的获取从分析集群的“集群详情”页面获取HttpFs的连接串: 为了使用合理,建议HttpFS的用户名为:resource;resource上传...
-
HBase SQL(Phoenix)与Spark的选择_HBase SQL服务(Phoenix)_云数据库 HBase 版
HBase SQL(Phoenix)与Spark的选择 Phoenix 与 Spark的区别 ApsaraDB Phoenix是ApsaraDB HBase提供的SQL层,主要为了解决高并发、低延迟、简单查询场景,当然也可以解决一定的分析需求。 必须命中索引 且 命中后 返回的数据较少,如果是join,则jo...
-
作业管理用户手册_作业服务LivyServer_开发指南_X-Pack Spark计算服务_云数据库 HBase 版
作业管理用户手册 分析集群通过LivyServer来管理作业,通过服务化的LivyServer可以做到客户端不依赖分析集群的环境,通过restful API即可管理作业。下面对于常用的API进行描述: 作业提交POST /batches通过向LivyServer发一个post提交作业,具体post构造的请求参数...
-
HBase SQL(Phoenix) 4.x 使用说明_HBase SQL服务(Phoenix)_云数据库 HBase 版
HBase SQL(Phoenix) 4.x 使用说明 Phoenix是什么Phoenix查询引擎支持使用SQL进行HBase数据的查询,会将SQL查询转换为一个或多个HBase API,协同处理器与自定义过滤器的实现,并编排执行。使用Phoenix进行简单查询,其性能量级是毫秒。 更多的信息可以参考官网:ht...
-
Spark SQL服务Thriftserver入门_开发指南_X-Pack Spark计算服务_云数据库 HBase 版
Spark SQL服务Thriftserver入门 简介Spark ThriftServer是一个JDBC接口,用户可以通过JDBC连接ThriftServer来访问Spark SQL的数据。连接后可以直接通过编写SQL语句访问Spark SQL的数据。购买Spark集群后,Spark ThriftServer...
-
HBase SQL(Phoenix) 5.x 使用说明_HBase SQL服务(Phoenix)_云数据库 HBase 版
HBase SQL(Phoenix) 5.x 使用说明 Phoenix 5.x 说明HBase SQL服务基于Phoenix 5.x为HBase 2.x提供SQL能力,通过轻客户端即可快速连接访问。SQL服务挂载了SLB负载均衡,通过round robin模式将请求均匀分发在每个query server节点。此...
-
访问Spark集群HDFS服务_开发指南_X-Pack Spark计算服务_云数据库 HBase 版
访问Spark集群HDFS服务 在一些场景下,需要打开Spark集群的HDFS端口 注意:hdfs端口打开后,因误操作hdfs导致的数据丢失等问题客户自身承担,客户需要对hdfs的操作比较了解。 访问限制 目前支持的是 同VPC内的ECS 访问Spark HDFS,暂时不支持公网访问。请将同VPC的ECS实例...