MySQL non supporta questo tipo di vincoli.
Dovresti invece utilizzare le procedure archiviate per inserire i dati, in modo da poter eseguire un po' di controllo e convalida.
Perché non definisci il tuo valore predefinito in modo tale che debba avere 1 come chiave primaria? In questo modo sarebbe già sufficiente un normale vincolo univoco sul pk.
Se nulla è adatto a te, potresti anche considerare di cambiare il tuo modello di dati.