Kopierat från kommentaren eftersom det tydligen ledde till lösningen:
Du läcker något annat än minne är min gissning, kanske filbeskrivningar. Testa att använda netstat eller lsof för att se om det finns många fler öppna anslutningar eller filer än du förväntar dig.