Non hai mai assegnato la tua stringa di connessione all'oggetto di connessione, proprio come dice l'errore.
Inserisci una riga che imposta la stringa di connessione prima di con.open.
Con.connectionstring = connection
Con.Open()
O meglio ancora, cambia la tua istruzione using come segue
Dim Connection As String = "Data Source=.\SQLEXPRESS;AttachDbFilename=G:\VB Project\Library Catalog System\Library Catalog System\library.mdf;Integrated
Security=True;Connect Timeout=30;User Instance=True"
Using Con As New SqlConnection(connection)
