Stai ricevendo l'duplicate key error perché esiste già un vincolo denominato ISBN presente nel database per la tua prima alter dichiarazione all'author tabella
alter table author add constraint ISBN foreign key (ISBN) references book (ISBN);
Prova a utilizzare un nome diverso per il vincolo in Publisher tabella
alter table publisher add constraint ISBN1
foreign key (ISBN) references book (ISBN);