Se vuoi le ultime 5 righe, ordinate in ordine crescente, hai bisogno di una sottoquery:
SELECT *
FROM
( SELECT id, name, form_id, DATE(updated_at) AS updated_date, updated_at
FROM wp_frm_items
WHERE user_id = 11
AND form_id=9
ORDER BY updated_at DESC
LIMIT 5
) AS tmp
ORDER BY updated_at
Dopo aver letto la domanda per la decima volta, questo potrebbe essere (solo forse) quello che vuoi. Ordina per data decrescente e poi ordina per ora (alla stessa data) crescente:
SELECT id, name, form_id, DATE(updated_at) AS updated_date
FROM wp_frm_items
WHERE user_id = 11
AND form_id=9
ORDER BY DATE(updated_at) DESC
, updated_at ASC