Ecco cosa fa Management Studio per cambiare la modalità di autenticazione da mista a solo Windows:
EXEC xp_instance_regwrite
N'HKEY_LOCAL_MACHINE',
N'Software\Microsoft\MSSQLServer\MSSQLServer',
N'LoginMode',
REG_DWORD,
1;
E da Windows solo torna a misto:
EXEC xp_instance_regwrite
N'HKEY_LOCAL_MACHINE',
N'Software\Microsoft\MSSQLServer\MSSQLServer',
N'LoginMode',
REG_DWORD,
2; -- only difference is right here
Puoi chiamare lo stesso comando da varie origini che possono connettersi a SQL Server come SQLCMD, PowerShell, VBScript, C#, ecc. Oppure puoi accedere direttamente al server, passare a quella chiave di registro e modificare il valore manualmente (come @ marc_s suggerito).
Si noti che in tutti i casi è necessario riavviare SQL Server affinché le modifiche abbiano effetto. È possibile visualizzare le prime numerose voci nel nuovo registro errori al riavvio per verificare che la modalità di autenticazione sia corretta. Dirà (per misto):
date/time Server Authentication Mode is MIXED.