Jag antar att du vill markera alla om det inte finns någon rad i TableTwo . Du behöver en OR och NOT EXISTS :
SELECT
T1.*
FROM
TableOne T1
WHERE
EXISTS(SELECT 1 from TableTwo WHERE T1.RecordID=RecordID)
OR NOT EXISTS(SELECT 1 FROM TableTwo)