Dovresti prima ottenere l'oggetto "report" e quindi accedere al suo contenuto. Puoi vedere il codice di esempio di seguito.
DBCursor cur = coll.find();
for (DBObject doc : cur) {
String fileName = (String) doc.get("name");
System.out.println(fileName);
DBObject report = (BasicDBObject) doc.get("report");
String reportName = (String) report.get("name");
System.out.println(reportName);
}