Come ordinare o scegliere le righe nella clausola MySQL GROUP BY?

No, non è possibile in MySQL. Devi usare un join.

SELECT id, number, otherfields FROM table 
  WHERE id in (SELECT min(id) FROM table GROUP BY number)