Non c'è da stupirsi che stia andando storto. Hai una dimensione dello stack di 128 Mb per thread, ma solo 4096 Mb in totale. Ciò ti dà solo spazio sufficiente per utilizzare 40 thread e quindi non avere alcun oggetto nell'heap.
Probabilmente è meglio decommentare tutte le dimensioni dello spazio e lasciare che la JVM faccia le sue cose automaticamente.