Questo è uno dei tanti motivi per cui tutte le tabelle dovrebbero avere una chiave primaria (non necessariamente un numero ID o IDENTITÀ, ma una combinazione di una o più colonne che identificano in modo univoco una riga e la cui unicità è imposta nel database).
La soluzione migliore è qualcosa del genere:
SELECT field1, field2, field3, count(*)
INTO temp_table1
FROM table1
GROUP BY field1, field2, field3 having count(*) > 1
DELETE T1
FROM table1 T1
INNER JOIN (SELECT field1, field2, field3
FROM table1
GROUP BY field1, field2, field3 having count(*) > 1) SQ ON
SQ.field1 = T1.field1 AND
SQ.field2 = T1.field2 AND
SQ.field3 = T1.field3
INSERT INTO table1 (field1, field2, field3)
SELECT field1, field2, field3
FROM temp_table1
DROP TABLE temp_table1