Tipo di dati per salvare il file excel nel server sql?

Sì, puoi utilizzare un tipo di file binario. VARBINARY(MAX) è probabile che si adatti meglio allo scopo.

Per quanto riguarda come "convertire il file Excel in byte" (in realtà sono byte dall'inizio), avremo bisogno di saperne di più sul tuo ambiente di programmazione per aiutarti. Se stai usando .NET, dovresti essere in grado di fare qualcosa del genere:

var insert = new SqlCommand("INSERT INTO tbl (xls) VALUES (@xls)", conn);
insert.Parameters.AddWithValue("xls", File.ReadAllBytes("template.xls"));
insert.ExecuteNonQuery();