OutOfMemory har inget med någon ram eller databas att göra. Det betyder att CLR inte kunde allokera ett objekt när du blev ombedd att göra det.
Förmodligen har du data i flera buffertar som en i en HttpPostedFile , en i en byte[] i minnet , en i EF, ... Detta multiplicerar mängden minne som behövs.
Byt till strömmande läsningar från ASP.NET och strömmande skrivningar till ADO.NET. Handledningar finns tillgängliga. Sök efter "SQL Server UPDATE WRITE"