A prima vista, mi sembra che il tuo SQL Server Management Studio si stia connettendo tramite una libreria di rete diversa, come Named Pipes, mentre il client sqlcmd sta tentando di connettersi tramite TCP e il server non è in ascolto lì (o forse su una porta non standard). Ecco perché stai ricevendo l'errore TCP in quest'ultima istanza.