Du måste publicera lämplig port på behållaren med -p argument dvs:
docker run -p 27017:27017 -v "$(pwd)":/data --name mongo -d mongo mongod --smallfiles
Den kommer att göra port 27017 tillgänglig på värden (den virtuella datorn i ditt fall) och vidarebefordra trafik till port 27017 på behållaren.