Non hai bisogno di caratteri jolly in REPLACE - trova solo la stringa che inserisci per il secondo argomento, quindi dovrebbe funzionare quanto segue:
UPDATE dbo.xxx
SET Value = REPLACE(Value, '123', '')
WHERE ID <=4
Se la colonna da sostituire è digitare text o ntext devi lanciarlo su nvarchar
UPDATE dbo.xxx
SET Value = REPLACE(CAST(Value as nVarchar(4000)), '123', '')
WHERE ID <=4