Dovresti essere sicuro che il tuo SQL Server sia installato in inglese. Una volta che sei sicuro che la funzione di conversione dovrebbe fare il lavoro
SELECT CONVERT(DATETIME, '02-Sep-2017')
E se hai bisogno di trasformarlo in quella stringa che hai condiviso:
SELECT CONVERT(VARCHAR, CONVERT(DATETIME, '02-Sep-2017'), 103)
Riferimento stile qui
