Du måste bygga om det klustrade indexet (förutsatt att du har ett - som standard är din primära nyckel den klustrade nyckeln).
ALTER INDEX (your clustered index) ON TABLE (your table) REBUILD
Datan är verkligen bladnivån för ditt klustrade index - när du väl har byggt om det kommer det att "komprimeras" och raderna bör lagras på mycket färre datasidor, vilket också minskar din databasstorlek.
Om det inte hjälper alls, kan du också behöva köra en DBCC SHRINKDATABASE på din databas för att verkligen återta utrymmet. Dessa två steg tillsammans borde verkligen ge dig en mindre databasfil!
Marc