PostgreSQL
 sql >> Database >  >> RDS >> PostgreSQL

PostgreSQL usando pg_trgm più lento della scansione completa

tldr:i trigrammi potrebbero non essere efficaci nella ricerca di pattern costituiti da un singolo carattere ripetuto N volte (come 666666 ) perché esiste solo 1 trigramma non terminale e che potrebbe hanno un'alta occorrenza nello spazio di ricerca.

Quando viene utilizzato gin-index, la bitmap delle righe è troppo grande per essere contenuta nella memoria, quindi archivia i riferimenti alle pagine e il database deve eseguire un'ulteriore scansione di ricontrollo su queste pagine. Se il numero di pagine ricontrollate è piccolo, l'uso dell'indice è comunque vantaggioso, tuttavia con un numero elevato di pagine ricontrollate l'indice ha prestazioni scadenti. Ciò è evidenziato dalle seguenti righe nel tuo output di spiegazione

   Recheck Cond: (x ~~* '%666666%'::text)
   Rows Removed by Index Recheck: 36257910
   Heap Blocks: exact=39064 lossy=230594

Il problema riguarda in particolare la stringa di ricerca, ovvero 666666 , rispetto ai dati di prova.

se esegui select pg_trgm('666666') , troverai:

        show_trgm        
-------------------------
 {"  6"," 66","66 ",666}
(1 row)

I primi 3 trigrammi non verranno nemmeno generati in un contesto simile (correzione suggerita dall'utente jjanes ) . La ricerca sull'indice restituisce tutte le pagine contenenti 666 . Puoi convalidarlo eseguendo la query di analisi spiega con ... ilike '%666%' e ottenendo lo stesso Heap Blocks uscita come sopra.

se cerchi con il pattern 123456 , vedrai che funziona molto meglio, perché genera un insieme più ampio di trigrammi in cui cercare:

              show_trgm              
-------------------------------------
 {"  1"," 12",123,234,345,456,"56 "}
(1 row)

Sulla mia macchina, ottengo quanto segue:

|------------------------------------|
| pattern | pages rechecked          |
|         | exact | lossy  | total   |
|------------------------------------|
| 123456  |   600 |        |    600  |
| 666666  | 39454 | 230592 | 270046* |
|    666  | 39454 | 230592 | 270046* |
|------------------------------------|
*this is rougly 85% of the total # of pages used for the table 't'

Ecco l'output di spiegazione:

postgres=> explain analyze select * from t where x ~ '123456';
                                                        QUERY PLAN                                                        
--------------------------------------------------------------------------------------------------------------------------
 Bitmap Heap Scan on t  (cost=90.75..18143.92 rows=5000 width=22) (actual time=110.962..113.509 rows=518 loops=1)
   Recheck Cond: (x ~ '123456'::text)
   Rows Removed by Index Recheck: 83
   Heap Blocks: exact=600
   ->  Bitmap Index Scan on t_x_idx  (cost=0.00..89.50 rows=5000 width=0) (actual time=110.868..110.868 rows=601 loops=1)
         Index Cond: (x ~ '123456'::text)
 Planning time: 0.703 ms
 Execution time: 113.564 ms
(8 rows)

postgres=> explain analyze select * from t where x ~ '666666';
                                                         QUERY PLAN                                                          
-----------------------------------------------------------------------------------------------------------------------------
 Bitmap Heap Scan on t  (cost=54.75..18107.92 rows=5000 width=22) (actual time=137.143..18111.609 rows=462 loops=1)
   Recheck Cond: (x ~ '666666'::text)
   Rows Removed by Index Recheck: 36258389
   Heap Blocks: exact=39454 lossy=230592
   ->  Bitmap Index Scan on t_x_idx  (cost=0.00..53.50 rows=5000 width=0) (actual time=105.962..105.962 rows=593708 loops=1)
         Index Cond: (x ~ '666666'::text)
 Planning time: 0.420 ms
 Execution time: 18111.739 ms
(8 rows)

postgres=> explain analyze select * from t where x ~ '666';
                                                        QUERY PLAN                                                         
---------------------------------------------------------------------------------------------------------------------------
 Bitmap Heap Scan on t  (cost=54.75..18107.92 rows=5000 width=22) (actual time=102.813..17285.086 rows=593708 loops=1)
   Recheck Cond: (x ~ '666'::text)
   Rows Removed by Index Recheck: 35665143
   Heap Blocks: exact=39454 lossy=230592
   ->  Bitmap Index Scan on t_x_idx  (cost=0.00..53.50 rows=5000 width=0) (actual time=96.100..96.100 rows=593708 loops=1)
         Index Cond: (x ~ '666'::text)
 Planning time: 0.500 ms
 Execution time: 17300.440 ms
(8 rows)