MongoDB
 sql >> Database >  >> NoSQL >> MongoDB

Mongoose Popola dopo Aggregate

Quindi in realtà ti mancano alcuni concetti qui quando chiedi di "compilare" un risultato di aggregazione. In genere questo non è quello che fai effettivamente, ma per spiegare i punti:

  1. L'output di aggregate() è diverso da un Model.find() o un'azione simile poiché lo scopo qui è "rimodellare i risultati". Ciò significa sostanzialmente che il modello che stai utilizzando come origine dell'aggregazione non è più considerato quel modello in output. Questo vale anche se hai mantenuto la stessa identica struttura del documento in uscita, ma nel tuo caso l'output è comunque chiaramente diverso dal documento di origine.

    In ogni caso non è più un'istanza della Warranty modello da cui ti stai approvvigionando, ma solo un semplice oggetto. Possiamo aggirare il problema man mano che ci occuperemo in seguito.

  2. Probabilmente il punto principale qui è che populate() è in qualche modo "vecchio cappello" comunque. Questa è in realtà solo una funzione di praticità aggiunta a Mongoose nei primissimi giorni di implementazione. Tutto ciò che fa realmente è eseguire "un'altra query" sul correlato dati in una raccolta separata, quindi unisce i risultati in memoria all'output della raccolta originale.

    Per molte ragioni, nella maggior parte dei casi non è davvero efficiente o addirittura desiderabile. E contrariamente all'idea sbagliata popolare, questo è NON in realtà un "join".

    Per una vera "partecipazione" in realtà usi $lookup fase della pipeline di aggregazione, che MongoDB utilizza per restituire gli elementi corrispondenti da un'altra raccolta. A differenza di populate() questo viene effettivamente eseguito in un'unica richiesta al server con una singola risposta. Questo evita i costi di rete, è generalmente più veloce e come un "vero join" ti consente di fare cose che populate() non posso fare.

Utilizza invece $lookup

Il molto veloce la versione di ciò che manca qui è quella invece di tentare di populate() nel .then() dopo che il risultato è stato restituito, ciò che fai invece è aggiungere $lookup alla pipeline:

  { "$lookup": {
    "from": Account.collection.name,
    "localField": "_id",
    "foreignField": "_id",
    "as": "accounts"
  }},
  { "$unwind": "$accounts" },
  { "$project": {
    "_id": "$accounts",
    "total": 1,
    "lineItems": 1
  }}

Nota che c'è un vincolo qui in quanto l'output di $lookup è sempre un array. Non importa se c'è un solo elemento correlato o molti da recuperare come output. La fase della pipeline cercherà il valore di "localField" dal documento corrente presentato e utilizzalo per abbinare i valori in "foreignField" specificato. In questo caso è il _id dall'aggregazione $group target al _id della collezione straniera.

Poiché l'output è sempre un array come accennato, il modo più efficiente per lavorare con questo per questa istanza sarebbe semplicemente aggiungere un $unwind fase immediatamente successiva a $lookup . Tutto questo restituirà un nuovo documento per ogni elemento restituito nell'array di destinazione, e in questo caso ti aspetti che sia uno. Nel caso in cui il _id non trova corrispondenza nella raccolta straniera, i risultati senza corrispondenze verranno rimossi.

Come piccola nota, questo è in realtà un modello ottimizzato come descritto in $lookup + $unwind Coalescenza all'interno della documentazione di base. Una cosa speciale accade qui dove $unwind l'istruzione è effettivamente unita a $lookup funzionamento in modo efficiente. Puoi leggere di più a riguardo lì.

Utilizzo di popola

Dal contenuto di cui sopra dovresti essere in grado di capire sostanzialmente perché populate() ecco la cosa sbagliata da fare. A parte il fatto fondamentale che l'output non è più composto da Warranty oggetti modello, quel modello conosce davvero solo gli elementi estranei descritti in _accountId proprietà che comunque non esiste nell'output.

Ora puoi definire effettivamente un modello che può essere utilizzato per eseguire in modo esplicito il cast degli oggetti di output in un tipo di output definito. Una breve dimostrazione di uno comporterebbe l'aggiunta di codice alla tua applicazione per questo come:

// Special models

const outputSchema = new Schema({
  _id: { type: Schema.Types.ObjectId, ref: "Account" },
  total: Number,
  lineItems: [{ address: String }]
});

const Output = mongoose.model('Output', outputSchema, 'dontuseme');

Questo nuovo Output model può quindi essere utilizzato per "trasmettere" gli oggetti JavaScript semplici risultanti in Mongoose Documents in modo che metodi come Model.populate() può effettivamente essere chiamato:

// excerpt
result2 = result2.map(r => new Output(r));   // Cast to Output Mongoose Documents

// Call populate on the list of documents
result2 = await Output.populate(result2, { path: '_id' })
log(result2);

Da Output ha uno schema definito che è a conoscenza del "riferimento" su _id campo dei suoi documenti il ​​Model.populate() è consapevole di ciò che deve fare e restituisce gli articoli.

Attenzione però poiché questo in realtà genera un'altra query. cioè:

Mongoose: warranties.aggregate([ { '$match': { payStatus: 'Invoiced Next Billing Cycle' } }, { '$group': { _id: '$_accountId', total: { '$sum': '$warrantyFee' }, lineItems: { '$push': { _id: '$_id', address: { '$trim': { input: { '$reduce': { input: { '$objectToArray': '$address' }, initialValue: '', in: { '$concat': [ '$$value', ' ', [Object] ] } } }, chars: ' ' } } } } } } ], {})
Mongoose: accounts.find({ _id: { '$in': [ ObjectId("5bf4b591a06509544b8cf75c"), ObjectId("5bf4b591a06509544b8cf75b") ] } }, { projection: {} })

Dove la prima riga è l'output aggregato, quindi stai contattando nuovamente il server per restituire il relativo Account voci del modello.

Riepilogo

Quindi queste sono le tue opzioni, ma dovrebbe essere abbastanza chiaro che l'approccio moderno a questo è invece di usare $lookup e ottieni un vero "join" che non è ciò che populate() sta effettivamente facendo.

È incluso un elenco come dimostrazione completa di come ciascuno di questi approcci funziona effettivamente nella pratica. Qualche licenza artistica è preso qui, quindi i modelli rappresentati potrebbero non essere esattamente uguale a quello che hai, ma c'è abbastanza per dimostrare i concetti di base in modo riproducibile:

const { Schema } = mongoose = require('mongoose');

const uri = 'mongodb://localhost:27017/joindemo';
const opts = { useNewUrlParser: true };

// Sensible defaults
mongoose.Promise = global.Promise;
mongoose.set('debug', true);
mongoose.set('useFindAndModify', false);
mongoose.set('useCreateIndex', true);

// Schema defs

const warrantySchema = new Schema({
  address: {
    street: String,
    city: String,
    state: String,
    zip: Number
  },
  warrantyFee: Number,
  _accountId: { type: Schema.Types.ObjectId, ref: "Account" },
  payStatus: String
});

const accountSchema = new Schema({
  name: String,
  contactName: String,
  contactEmail: String
});

// Special models


const outputSchema = new Schema({
  _id: { type: Schema.Types.ObjectId, ref: "Account" },
  total: Number,
  lineItems: [{ address: String }]
});

const Output = mongoose.model('Output', outputSchema, 'dontuseme');

const Warranty = mongoose.model('Warranty', warrantySchema);
const Account = mongoose.model('Account', accountSchema);


// log helper
const log = data => console.log(JSON.stringify(data, undefined, 2));

// main
(async function() {

  try {

    const conn = await mongoose.connect(uri, opts);

    // clean models
    await Promise.all(
      Object.entries(conn.models).map(([k,m]) => m.deleteMany())
    )

    // set up data
    let [first, second, third] = await Account.insertMany(
      [
        ['First Account', 'First Person', '[email protected]'],
        ['Second Account', 'Second Person', '[email protected]'],
        ['Third Account', 'Third Person', '[email protected]']
      ].map(([name, contactName, contactEmail]) =>
        ({ name, contactName, contactEmail })
      )
    );

    await Warranty.insertMany(
      [
        {
          address: {
            street: '1 Some street',
            city: 'Somewhere',
            state: 'TX',
            zip: 1234
          },
          warrantyFee: 100,
          _accountId: first,
          payStatus: 'Invoiced Next Billing Cycle'
        },
        {
          address: {
            street: '2 Other street',
            city: 'Elsewhere',
            state: 'CA',
            zip: 5678
          },
          warrantyFee: 100,
          _accountId: first,
          payStatus: 'Invoiced Next Billing Cycle'
        },
        {
          address: {
            street: '3 Other street',
            city: 'Elsewhere',
            state: 'NY',
            zip: 1928
          },
          warrantyFee: 100,
          _accountId: first,
          payStatus: 'Invoiced Already'
        },
        {
          address: {
            street: '21 Jump street',
            city: 'Anywhere',
            state: 'NY',
            zip: 5432
          },
          warrantyFee: 100,
          _accountId: second,
          payStatus: 'Invoiced Next Billing Cycle'
        }
      ]
    );

    // Aggregate $lookup
    let result1 = await Warranty.aggregate([
      { "$match": {
        "payStatus": "Invoiced Next Billing Cycle"
      }},
      { "$group": {
        "_id": "$_accountId",
        "total": { "$sum": "$warrantyFee" },
        "lineItems": {
          "$push": {
            "_id": "$_id",
            "address": {
              "$trim": {
                "input": {
                  "$reduce": {
                    "input": { "$objectToArray": "$address" },
                    "initialValue": "",
                    "in": {
                      "$concat": [ "$$value", " ", { "$toString": "$$this.v" } ] }
                  }
                },
                "chars": " "
              }
            }
          }
        }
      }},
      { "$lookup": {
        "from": Account.collection.name,
        "localField": "_id",
        "foreignField": "_id",
        "as": "accounts"
      }},
      { "$unwind": "$accounts" },
      { "$project": {
        "_id": "$accounts",
        "total": 1,
        "lineItems": 1
      }}
    ])

    log(result1);

    // Convert and populate
    let result2 = await Warranty.aggregate([
      { "$match": {
        "payStatus": "Invoiced Next Billing Cycle"
      }},
      { "$group": {
        "_id": "$_accountId",
        "total": { "$sum": "$warrantyFee" },
        "lineItems": {
          "$push": {
            "_id": "$_id",
            "address": {
              "$trim": {
                "input": {
                  "$reduce": {
                    "input": { "$objectToArray": "$address" },
                    "initialValue": "",
                    "in": {
                      "$concat": [ "$$value", " ", { "$toString": "$$this.v" } ] }
                  }
                },
                "chars": " "
              }
            }
          }
        }
      }}
    ]);

    result2 = result2.map(r => new Output(r));

    result2 = await Output.populate(result2, { path: '_id' })
    log(result2);

  } catch(e) {
    console.error(e)
  } finally {
    process.exit()
  }

})()

E l'output completo:

Mongoose: dontuseme.deleteMany({}, {})
Mongoose: warranties.deleteMany({}, {})
Mongoose: accounts.deleteMany({}, {})
Mongoose: accounts.insertMany([ { _id: 5bf4b591a06509544b8cf75b, name: 'First Account', contactName: 'First Person', contactEmail: '[email protected]', __v: 0 }, { _id: 5bf4b591a06509544b8cf75c, name: 'Second Account', contactName: 'Second Person', contactEmail: '[email protected]', __v: 0 }, { _id: 5bf4b591a06509544b8cf75d, name: 'Third Account', contactName: 'Third Person', contactEmail: '[email protected]', __v: 0 } ], {})
Mongoose: warranties.insertMany([ { _id: 5bf4b591a06509544b8cf75e, address: { street: '1 Some street', city: 'Somewhere', state: 'TX', zip: 1234 }, warrantyFee: 100, _accountId: 5bf4b591a06509544b8cf75b, payStatus: 'Invoiced Next Billing Cycle', __v: 0 }, { _id: 5bf4b591a06509544b8cf75f, address: { street: '2 Other street', city: 'Elsewhere', state: 'CA', zip: 5678 }, warrantyFee: 100, _accountId: 5bf4b591a06509544b8cf75b, payStatus: 'Invoiced Next Billing Cycle', __v: 0 }, { _id: 5bf4b591a06509544b8cf760, address: { street: '3 Other street', city: 'Elsewhere', state: 'NY', zip: 1928 }, warrantyFee: 100, _accountId: 5bf4b591a06509544b8cf75b, payStatus: 'Invoiced Already', __v: 0 }, { _id: 5bf4b591a06509544b8cf761, address: { street: '21 Jump street', city: 'Anywhere', state: 'NY', zip: 5432 }, warrantyFee: 100, _accountId: 5bf4b591a06509544b8cf75c, payStatus: 'Invoiced Next Billing Cycle', __v: 0 } ], {})
Mongoose: warranties.aggregate([ { '$match': { payStatus: 'Invoiced Next Billing Cycle' } }, { '$group': { _id: '$_accountId', total: { '$sum': '$warrantyFee' }, lineItems: { '$push': { _id: '$_id', address: { '$trim': { input: { '$reduce': { input: { '$objectToArray': '$address' }, initialValue: '', in: { '$concat': [ '$$value', ' ', [Object] ] } } }, chars: ' ' } } } } } }, { '$lookup': { from: 'accounts', localField: '_id', foreignField: '_id', as: 'accounts' } }, { '$unwind': '$accounts' }, { '$project': { _id: '$accounts', total: 1, lineItems: 1 } } ], {})
[
  {
    "total": 100,
    "lineItems": [
      {
        "_id": "5bf4b591a06509544b8cf761",
        "address": "21 Jump street Anywhere NY 5432"
      }
    ],
    "_id": {
      "_id": "5bf4b591a06509544b8cf75c",
      "name": "Second Account",
      "contactName": "Second Person",
      "contactEmail": "[email protected]",
      "__v": 0
    }
  },
  {
    "total": 200,
    "lineItems": [
      {
        "_id": "5bf4b591a06509544b8cf75e",
        "address": "1 Some street Somewhere TX 1234"
      },
      {
        "_id": "5bf4b591a06509544b8cf75f",
        "address": "2 Other street Elsewhere CA 5678"
      }
    ],
    "_id": {
      "_id": "5bf4b591a06509544b8cf75b",
      "name": "First Account",
      "contactName": "First Person",
      "contactEmail": "[email protected]",
      "__v": 0
    }
  }
]
Mongoose: warranties.aggregate([ { '$match': { payStatus: 'Invoiced Next Billing Cycle' } }, { '$group': { _id: '$_accountId', total: { '$sum': '$warrantyFee' }, lineItems: { '$push': { _id: '$_id', address: { '$trim': { input: { '$reduce': { input: { '$objectToArray': '$address' }, initialValue: '', in: { '$concat': [ '$$value', ' ', [Object] ] } } }, chars: ' ' } } } } } } ], {})
Mongoose: accounts.find({ _id: { '$in': [ ObjectId("5bf4b591a06509544b8cf75c"), ObjectId("5bf4b591a06509544b8cf75b") ] } }, { projection: {} })
[
  {
    "_id": {
      "_id": "5bf4b591a06509544b8cf75c",
      "name": "Second Account",
      "contactName": "Second Person",
      "contactEmail": "[email protected]",
      "__v": 0
    },
    "total": 100,
    "lineItems": [
      {
        "_id": "5bf4b591a06509544b8cf761",
        "address": "21 Jump street Anywhere NY 5432"
      }
    ]
  },
  {
    "_id": {
      "_id": "5bf4b591a06509544b8cf75b",
      "name": "First Account",
      "contactName": "First Person",
      "contactEmail": "[email protected]",
      "__v": 0
    },
    "total": 200,
    "lineItems": [
      {
        "_id": "5bf4b591a06509544b8cf75e",
        "address": "1 Some street Somewhere TX 1234"
      },
      {
        "_id": "5bf4b591a06509544b8cf75f",
        "address": "2 Other street Elsewhere CA 5678"
      }
    ]
  }
]