推广 热搜: 行业  机械  设备    系统  教师  经纪    参数  蒸汽 

为什么删数据也提示空间不足呢?

   日期:2024-11-10     移动:http://yejunbin01.xhstdz.com/mobile/quote/68416.html

动笔写这篇文章的原因,是起源于一个网友的问题。这位 MM 在晚上 23:00 点还在积极的思考程序问题,这份热情着实打动了我。

为什么删数据也提示空间不足呢?

问题的现象是这样的,当通过 MUTATIONS 操作执行 DELETE 时

出现了如下异常:

首先是提示无法分配 xx Gib 硬盘空间

接着连带提示没有足够的空间给正在做 mutating 动作的分区 part

异常错误涉及到的分区 part 大小有140多G,而硬盘剩余空间200G。

这里就有一点反直觉的意思了,删除数据不应该是释放空间吗?为什么还提示我硬盘空间不足呢?

我在《ClickHouse原理解析与应用实践》这本书中曾描述过 MUTATIONS 部分的内容,但是不够深入,这篇文章也算是对这个知识点的一点补充吧。

接下来我会用一个简单的示例说明 MUTATIONS 的执行逻辑,首先新建一张测试表

接着写入两批不同分区的数据,第一批属于 201905

第二批数据属于 201906

此时我们查看磁盘目录

会看到两个分区目录,201905_1_1_0 有7.7M,201906_2_2_0有52K。

现在我们来看一看 MUTATIONS 操作是如何工作的

以 UPDATE 为例,执行下面的修改语句

完成后,我们再去看磁盘目录,会看到

总的目录大小由 7.8M 变成了 12M。

而分区 201905_1_1_0 和 201906_2_2_0 也都各自生成了一个以 mutation version 为后缀的新分区。

因为当前的 mutation version 是 3,所以它们分别是 201905_1_1_0_3 和 201906_2_2_0_3。(对于什么是 mutation version 我在书中有详细解释, 这里不再赘述)

在执行了 UPDATE 之后,如果和原始目录的大小进行对比,你会发现有些奇怪。例如 201905_1_1_0_3 和 201906_2_2_0_3 分别是 7.7M 和 52K,它们取代了原来的目录;而 201906_2_2_0 变成了 4K。

这是为什么呢?别急,跟我过一遍 MUTATIONS 的执行逻辑你就大致能够明白了。

其核心的逻辑如下:

首先,CH 会使用我们执行语句中附带的 WHERe user_id = 1 条件,

分别对 201905_1_1_0 和 201906_2_2_0 两个分区进行 count 查询,用以判断该分区内是否包含需要更新的数据。

在我们的这个示例中,user_id = 1 的数据在 201905_1_1_0 分区,所以你会在 CH 日志找到如下的查询信息:

接着,执行逻辑有两个分支:

对于包含修改范围的分区,CH 会进行 MUTATIONS 操作,其大致逻辑是:

第一,会创建一个 tmp_mut_ 为前缀、mutation version 为后缀的临时分区目录。

在我们这个示例中,临时目录为

后缀 _3 表示当前的 mutation version 是 3。

第二,对于需要修改的列,会在 tmp_mut 目录中生成全新的 .bin 和.mrk 文件,例如这个示例中的 score 字段。

第三,对于无需修改的列,则直接和原始分区目录中相应的文件建立硬链接。

最后,将 tmp 目录重命名为正式目录

再执行完了 UPDATE 之后,我们可以查看磁盘文件验证一番,进入到 201905_1_1_0_3 目录

注意看左边的数字,它表示这个文件的inode被连接的次数,如果该数字大于1,则表示建立了硬链接。

因为 score 是修改的字段,所以 score.bin 和 score.mrk2 是新生成的文件,它们的连接数是 1; 而其他文件的连接数是 2,说明它们和 201905_1_1_0 内的相应文件一一建立了硬链接。

对于不包含修改范围的分区,也就是不涉及数据修改的分区 part,CH 会走 clone 流程。

重点来了, 在进行后续动作之前,CH 首先会判断当前磁盘的剩余空间是否充足。如果空间充足,则逻辑继续;如果不足,就会抛出异常

而需要的剩余空间是该 part 大小的两倍。

在我们的这个示例中,201906_2_2_0 不涉及数据修改,所以它会进入 clone 流程:

首先,会判断磁盘的剩余空间是否满足 201906_2_2_0 大小的两倍。这里没有问题,所以继续。

接着, CH 会建立一个以 tmp_clone 为前缀的临时分区目录

然后,将 201906_2_2_0 内的文件全部硬链接到 tmp_clone_201906_2_2_0_3目录

最后,将 tmp_clone_201906_2_2_0_3 重命名为正式目录

同样的,我们可以到 201906_2_2_0_3 目录进行验证

可以看到,对于不用修改 part 分区目录,它们文件的 inode 全部是 2,都建立了硬链接。

对于 ALTER TABLE xxx DELETE 操作,它的逻辑和 UPDATE 是一样的,这里就不在赘述了。

回到开篇这位网友的问题,现在你能分析出原因了么?

这位网友执行了 DELETE WHERe 条件删除,恰好那个 140G 最大的 part 分区不在删除的条件范围内,所以这个分区进入了 clone 流程。而该流程首先会判断剩余空间是否大于 part 的两倍,所以就报错了。

如果这篇文章对你有帮助,欢迎 点赞、转发、在看 三连击 :)

欢迎大家扫码关注我的公众号和视频号:

ClickHouse的秘密基地

nauu的奇思妙想

往期精彩推荐:

本文地址:http://yejunbin01.xhstdz.com/quote/68416.html    物流园资讯网 http://yejunbin01.xhstdz.com/ , 查看更多

特别提示:本信息由相关用户自行提供,真实性未证实,仅供参考。请谨慎采用,风险自负。


0相关评论
相关最新动态
推荐最新动态
点击排行
网站首页  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报  |  鄂ICP备2020018471号