ulimit -a löste mysteriet:
core file size (blocks, -c) 1
data seg size (kbytes, -d) unlimited
scheduling priority (-e) 0
file size (blocks, -f) unlimited
pending signals (-i) 30619
max locked memory (kbytes, -l) 64
max memory size (kbytes, -m) 3338968
open files (-n) 1024
pipe size (512 bytes, -p) 8
POSIX message queues (bytes, -q) 819200
real-time priority (-r) 0
stack size (kbytes, -s) 8192
cpu time (seconds, -t) unlimited
max user processes (-u) 30619
virtual memory (kbytes, -v) 6496960
file locks (-x) unlimited
Det fungerade efter att ha ställt in max minnesstorlek och virtuellt minne till obegränsat och startat om allt. BTW, nästa fil hade igen 2GB.
Ursäkta att jag stör dig, men jag var desperat. Kanske kan detta hjälpa någon som "googlar" med ett liknande problem.