Devi pubblicare la porta appropriata sul container con -p
argomento cioè:
docker run -p 27017:27017 -v "$(pwd)":/data --name mongo -d mongo mongod --smallfiles
Renderà la porta 27017 accessibile sull'host (la VM nel tuo caso) e inoltrerà il traffico alla porta 27017 sul container.