Supponendo che la colonna sia denominata 'id':
SELECT *
FROM tableA a
WHERE NOT EXISTS (SELECT 1 FROM tableB WHERE id = a.id)
o
SELECT *
FROM TableA
WHERE id NOT IN (SELECT id FROM tableB)
Probabilmente dovrai testare per vedere quale funziona meglio. MySQL può essere un po' imprevedibile.