Se non riesci a creare una funzione e devi usare qualcosa che esiste già nel DB:
sys.fn_repl_hash_binary
può essere fatto funzionare usando la sintassi:
sys.fn_repl_hash_binary(cast('some really long string' as varbinary(max)))
Tratto da:http://www .sqlnotes.info/2012/01/16/generate-md5-value-from-big-data/