Det är ganska konstigt beteende. Jag körde bara din kod lokalt och allt fungerade. Kan du verifiera att du använder drivrutinsversion 0.18.2? Om så är fallet, se till att det är den enda versionen som är installerad (bara som en förnuftskontroll).
Jag tror inte att det borde göra någon skillnad, men jag körde inte #group från MongoMapper -- jag använde pärlan ensam. Det kan du också prova. Här är koden jag körde:
require 'rubygems'
require 'mongo'
d = Mongo::Connection.new.db('blog')
c = d['post']
p c.group("function(x) { return { month: x.date.getMonth(), year:x.date.getFullYear() }; }",
nil,
{ :count => 0 },
"function(x,y){y.count++}",
true)