Ho riscontrato lo stesso problema durante l'installazione di mysql2-0.3.21 su Mac pro.
La soluzione sotto menzionata ha funzionato per me (esegui i 3 comandi sotto menzionati nel terminale che punta alla cartella del tuo progetto):
brew install mysql
gem install mysql2 -v '0.3.21' -- --srcdir=/usr/local/mysql/include
bundle install