Problemet löst.
Orsak:Jag använde Non Thread Safe php_mongodb.dll , medan PHP som installerats av XAMPP är en trådsäker.
Efter att ha ersatt php_mongodb.dll med den trådsäkra versionen är det inget fel och jag kan slutföra installationen av kompositören.