Det du letar efter är launchctl limit maxfiles
.
För att ändra det måste du köra kommandot launchctl limit maxfiles 1024 2048
till exempel.
För att permanent ändra dessa värden måste du skapa /etc/launchctl.conf och ställa in de värden du behöver (se här
för detaljer) eller lägg till kommandot som nämnts ovan i din ~/.bash_profil.
Eller så kan du skapa ett skript som sätter en gräns och sedan starta mongo