Fix handling of NULLs when merging BRIN summaries
authorTomas Vondra <[email protected]>
Thu, 18 May 2023 11:00:31 +0000 (13:00 +0200)
committerTomas Vondra <[email protected]>
Thu, 18 May 2023 21:34:56 +0000 (23:34 +0200)
commitd42ffda685f5dbd123df59c2f8050e8fb09164c7
tree1c370f4422126bc24895bec2810fe91ecabf87f5
parent0966291a4ade47f7c14313ab7868d1de4e4f6688
Fix handling of NULLs when merging BRIN summaries

When merging BRIN summaries, union_tuples() did not correctly update the
target hasnulls/allnulls flags. When merging all-NULL summary into a
summary without any NULL values, the result had both flags set to false
(instead of having hasnulls=true).

This happened because the code only considered the hasnulls flags,
ignoring the possibility the source summary has allnulls=true.

Discovered while investigating issues with handling empty BRIN ranges
and handling of NULL values, but it's a separate problem (has nothing to
do with empty ranges).

Fixed by considering both flags on the source summary, and updating the
hasnulls flag on the target summary.

Backpatch to 11. The bug exists since 9.5 (where BRIN indexes were
introduced), but those releases are EOL already.

Discussion: https://postgr.es/m/9d993d0d-e431-2196-9ccc-0554d0e60154%40enterprisedb.com
src/backend/access/brin/brin_inclusion.c
src/backend/access/brin/brin_minmax.c