Le parentesi sono importanti, quindi, prova questo :
SELECT japanese
FROM edict
WHERE japanese LIKE CONCAT('%',
(SELECT japanese FROM edict WHERE english LIKE 'dog' LIMIT 1),
'%');
Potrebbe essere stato utile dirci quale errore hai ricevuto, però.