Hai capito quasi bene. Prova questo:
db.privateMessages.find( { $or : [ {fromId: userId, toId: socket.userId} ,
{fromId: socket.userId, toId: userId} ] },
{},
{ limit : 2 },
function(err, messages) { pushSvdMsgs(messages); });
La sintassi è find(query, fields, options)
. Abbiamo bisogno di quell'oggetto vuoto per fare in modo che il driver interpreti correttamente le opzioni.