2020-11-19 hpkaiq 阅读(366) 评论(0)

项目用到phoenix，使用了这个jar包phoenix-client-4.14.1-HBase-1.4.jar，这个jar包导致的jar包冲突很多，一番摸索，解决了，解决如下。先jar命令解压jar包，然后删除以下...

2020-08-21 hpkaiq 阅读(620) 评论(0)

当 hive 表的分区字段 是 date 类型时，用如下方式读取会发生报错。val targetDay = "2020-08-20" spark.read.table(tableName) .wh...

2019-06-10 hpkaiq 阅读(1628) 评论(1)

线上项目出现一个很奇怪的问题，数据经过Spark程序消费Kafka写入Kudu，出现Kudu Master连接超时，这个问题开始排查不出原因，有点头大，只能采用下下策，重启Spark程序，出现过几次后， 我记录了出现...

2019-05-06 hpkaiq 阅读(2047) 评论(0)

最近线上的spark项目日志文件急剧增加，磁盘顶不住了啊，解决日志文件问题，参考下面三篇文章，基本就可以搞明白了。1：【Spark】Spark日志过大导致磁盘溢出问题解决方案2：spark日志配置及问题排查方式。3：...

2019-04-29 hpkaiq 阅读(2278) 评论(0)

转载自网络，不保证可用性及是否拥有版权，仅供分享，如有法律纠纷，请联系删除。国内网站1、鸠摩搜书网址：https://www.jiumodiary.com/一个强大的搜书神站，无论是什么类型的书籍，只要你知道书名，就...