Come posso definire i metodi in un modello Mongoose?

Non hai specificato se stavi cercando di definire metodi di classe o di istanza. Poiché altri hanno trattato i metodi di istanza, ecco come definiresti un metodo di classe/statico:

animalSchema.statics.findByName = function (name, cb) {
    return this.find({ 
        name: new RegExp(name, 'i') 
    }, cb);
}