Come integrare ElasticSearch con MySQL?

A partire da ES 5.x, hanno fornito questa funzionalità pronta all'uso con logstash collegare.

Ciò importerà periodicamente i dati dal database e li invierà al server ES.

È necessario creare un semplice file di importazione riportato di seguito (descritto anche qui ) e usa logstash per eseguire lo script. Logstash supporta l'esecuzione di questo script in base a una pianificazione.

# file: contacts-index-logstash.conf
input {
    jdbc {
        jdbc_connection_string => "jdbc:mysql://localhost:3306/mydb"
        jdbc_user => "user"
        jdbc_password => "pswd"
        schedule => "* * * * *"
        jdbc_validate_connection => true
        jdbc_driver_library => "/path/to/latest/mysql-connector-java-jar"
        jdbc_driver_class => "com.mysql.cj.jdbc.Driver"
        statement => "SELECT * from contacts where updatedAt > :sql_last_value"
    }
}
output {
    elasticsearch {
        protocol => http
        index => "contacts"
        document_type => "contact"
        document_id => "%{id}"
        host => "ES_NODE_HOST"
    }
}
# "* * * * *" -> run every minute
# sql_last_value is a built in parameter whose value is set to Thursday, 1 January 1970,
# or 0 if use_column_value is true and tracking_column is set

Puoi scaricare mysql jar da maven qui .

Nel caso in cui gli indici non esistano in ES quando viene eseguito questo script, verranno creati automaticamente. Proprio come una normale chiamata post su elasticsearch