Il motivo per cui il primo esempio non ha funzionato è che hai sbagliato a scrivere "funzione" come "funzione". Dovrebbe funzionare quanto segue:
Analytic.collection.group( "function(x){ return {page_id : x.page_id}; }",
nil,
{ :count => 0 },
"function(x, y){ y.count++; }" )