Dovrai ricostruire l'indice cluster (supponendo che tu ne abbia uno - per impostazione predefinita, la tua chiave primaria è la chiave cluster).
ALTER INDEX (your clustered index) ON TABLE (your table) REBUILD
I dati sono in realtà il livello foglia del tuo indice cluster:una volta ricostruito, verrà "compattato" e le righe dovrebbero essere archiviate su un numero molto inferiore di pagine di dati, riducendo anche le dimensioni del database.
Se ciò non aiuta affatto, potresti anche dover eseguire un DBCC SHRINKDATABASE sul tuo database per recuperare davvero lo spazio. Questi due passaggi insieme dovrebbero davvero farti ottenere un file di database più piccolo!
Marco