I tuoi casi di test in cui non puoi connetterti con "ServerName\Instance" ma SEI in grado di connetterti al server tramite "ServerName,Port" è ciò che accade quando esegui una VPN in una rete con Microsoft VPN. (Ho avuto questo problema). Per il mio problema con la VPN, utilizzo semplicemente i numeri di porta statici per aggirarlo.
Ciò è apparentemente dovuto al fatto che la VPN non inoltra i pacchetti UDP, consentendo solo le connessioni TCP.
Nel tuo caso il tuo firewall, le impostazioni di sicurezza o l'antivirus o qualsiasi altra cosa potrebbero bloccare UDP.
Ti suggerisco di controllare le impostazioni del firewall per consentire specificamente l'UDP .