Mongoose findOneAndUpdate Aggiornamento di più campi

Stai utilizzando $set operatore più volte. La sintassi corretta per $set è :

{ $set: { <field1>: <value1>, ... } }

Devi modificare il tuo aggiornamento argomento come questo:

Book.findOneAndUpdate({ "_id": bookId }, { "$set": { "name": name, "genre": genre, "author": author, "similar": similar}}).exec(function(err, book){
   if(err) {
       console.log(err);
       res.status(500).send(err);
   } else {
            res.status(200).send(book);
   }
});