Eri vicino. La query dovrebbe essere questa:
db.test.update({"city":"Palo Alto"},{"$pull":{"friends":{"name":"Frank"}}});
$pull prende un oggetto il cui campo specifica l'array di campi "friends" . Il valore {"name":"Frank"} rappresenta la query (da eseguire all'interno dell'array) per trovare l'elemento da estrarre.