gem install pg --with-pg-config funziona, il bundle non riesce

Hai provato a eseguirlo prima di eseguire bundle install ?

bundle config build.pg --with-pg-config=/usr/pgsql-9.1/bin/pg_config

Vedi http://bundler.io/v1.3/bundle_config.html