Parenteser är viktiga, därför prova detta :
SELECT japanese
FROM edict
WHERE japanese LIKE CONCAT('%',
(SELECT japanese FROM edict WHERE english LIKE 'dog' LIMIT 1),
'%');
Det kan dock ha varit bra att berätta vilket felmeddelande du fick.