Definisci vincoli univoci per le colonne nome utente e email:
ALTER TABLE your_table ADD CONSTRAINT uk_username UNIQUE (username)
ALTER TABLE your_table ADD CONSTRAINT uk_email UNIQUE (email)
Se il valore che tenta di essere inserito o aggiornato esiste già nella tabella, MySQL restituirà un errore indicando che la query viola il vincolo univoco appropriato (possibilmente entrambi). Sta a te configurare PHP per gestirlo con grazia.