Il problema è che a !=b è NULL quando aob è NULL.
<=>
è l'operatore NULL-safe uguale. Per ottenere un NULL-safe diverso da te puoi semplicemente invertire il risultato:
SELECT *
FROM my_table
WHERE NOT column_a <=> column_b
Senza usare l'operatore null safe dovresti farlo:
SELECT *
FROM my_table
WHERE column_a != column_b
OR (column_a IS NULL AND column_b IS NOT NULL)
OR (column_b IS NULL AND column_a IS NOT NULL)