Ho anche affrontato lo stesso problema, il problema è che la tua installazione di Linux richiede l'installazione delle librerie di sviluppo per PostgreSQL per poter costruire la gem.
Ecco come ho risolto il problema
Apri il tuo terminale ed esegui i seguenti comandi
sudo apt-get install libpq-dev
E poi prova a installare di nuovo PostgreSQL gem usando questo comando
gem install pg
Questo è tutto.
Spero che questo aiuti