Sfortunatamente non sono riuscito a farlo funzionare con BasicDBObjects annidati.
Alla fine stavo usando la notazione del punto che funziona bene:
// This query fetches the files I need
BasicDBObject query = new BasicDBObject("metadata.target_field", "abcdefg"));
List<GridFSDBFile> files = gridFs.find(query);