Ho avuto lo stesso problema e per me si è rivelato un problema con il modo in cui ho creato il keystore. Ho notato che stai usando lo stesso file, truststore.ts, sia per il truststore che per il keystore. Questo può funzionare, ma suggerirei di utilizzare file separati per evitare confusione.
Avevo già creato file .pem per la CA radice e per l'utente mongo e sono stato in grado di utilizzarli con successo per connettermi con la shell mongo. Da quelli ho creato truststore.jks e keystore.jks.
Innanzitutto, per creare truststore.jks ho eseguito:
keytool -import -alias root -storepass mypass -keystore truststore.jks -file rootca.pem -noprompt
Per keystore.jks sono necessarie sia le chiavi pubbliche che private, quindi prima converti il file PEM in formato PKCS12, quindi importa in un JKS:
openssl pkcs12 -export -out myuser.pkcs12 -in myuser.pem -password pass:mypass
keytool -importkeystore -srckeystore myuser.pkcs12 -srcstoretype PKCS12 -destkeystore keystore.jks -deststoretype JKS -deststorepass mypass -srcstorepass mypass
