Poiché il carattere \ viene utilizzato dall'operatore LIKE stesso, devi raddoppiarlo quando lo usi per sfuggire a un altro carattere come le virgolette doppie.
SELECT * FROM table_name WHERE column_name LIKE "%\\"%";
dovrebbe funzionare per te.
così come la modifica delle virgolette doppie con le virgolette singole per racchiudere il letterale
SELECT * FROM table_name WHERE column_name LIKE '%"%';
come hai pubblicato qui