spark 读取 hive date 分区表奇怪的报错

Anonymous 收录于编程

2023-04-17 2023-04-18 约 200 字预计阅读 1 分钟 - 次阅读 - 条评论

当 hive 表的分区字段是 date 类型时，用如下方式读取会发生报错。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
val targetDay = "2020-08-20"
spark.read.table(tableName)
.where(s"targetday in (" +
      s"date_sub('$targetDay',59)," +
      s"date_sub('$targetDay',49)," +
      s"date_sub('$targetDay',39)," +
      s"date_sub('$targetDay',29)," +
      s"date_sub('$targetDay',14)," +
      s"date_sub('$targetDay',6)," +
      s"date_sub('$targetDay',5)," +
      s"date_sub('$targetDay',4)," +
      s"date_sub('$targetDay',3)," +
      s"date_sub('$targetDay',2)," +
      s"date_sub('$targetDay',1)," +
      s"date_sub('$targetDay',0))" ).show

targetday 为表的分区字段，date类型。当 in 后面的日期个数大于 10 时就会报错，小于等于 10 时都不会报错。奇怪的现象。。。 targetday 为 string 类型不会有此错误。

Buy me a coffee~

赞赏

支付宝

微信

spark 读取 hive date 分区表 奇怪的报错

spark 读取 hive date 分区表奇怪的报错