Din datakällfil bör ha:
"host": "database"
...
eftersom du i docker-compose.yml länkar mongo container till loopback som database , så det är inte localhost . Kom ihåg att du försöker ansluta till mongo från loopback docker container. Du bör också se till att mongo startas innan loopback, så lägg till depends_on: database till loopback-tjänst i docker-compose.yml.