Eri vicino. La query dovrebbe essere questa:
db.test.update({"city":"Palo Alto"},{"$pull":{"friends":{"name":"Frank"}}});
$pull
prende un oggetto il cui campo specifica l'array di campi "friends"
. Il valore {"name":"Frank"}
rappresenta la query (da eseguire all'interno dell'array) per trovare l'elemento da estrarre.