Il problema proveniva da mysql che utilizzava /var/tmp come tmpdir che non è abbastanza grande per copiare la tabella e creare gli indici necessari. L'ho risolto cambiando la posizione di tmpdir in un luogo che contiene più spazio.
prima ho creato la directory /home/mysql/tmp
mkdir /home/mysql/tmp
quindi ho cambiato il proprietario di quella directory in mysql:mysql
chown mysql:mysql /home/mysql/tmp
poi ho fermato il server MySQL
service mysql stop
quindi riavvialo con il seguente comando:
service mysql start --tmpdir=/home/mysql/tmp