Du behöver inga jokertecken i REPLACE - den hittar bara strängen du anger för det andra argumentet, så följande bör fungera:
UPDATE dbo.xxx
SET Value = REPLACE(Value, '123', '')
WHERE ID <=4
Om kolumnen som ska ersättas är skriv text eller ntext du måste casta den till nvarchar
UPDATE dbo.xxx
SET Value = REPLACE(CAST(Value as nVarchar(4000)), '123', '')
WHERE ID <=4