Come suggerito da @Knud Larsen:
Per prima cosa, devi installare libpq-dev .
Se è stato installato correttamente, puoi vedere il file /usr/include/postgresql/libpq-fe.h
Dopodiché esegui il comando:
sudo luarocks PGSQL_INCDIR=/usr/include/postgresql/ install luasql-postgres
