Il SUBSTRING documentazione
non è particolarmente chiaro su come tratti i valori binari, riferendosi a "caratteri" piuttosto che a byte. Ma sta effettivamente trattando l'input come una sequenza di byte e con 1, 1 stai chiedendo il primo byte della sequenza:
Input Byte sequence
----------------------
0x6 06
0xF6 F6
0xFF6 0F F6
0xFFF6 FF F6
Output di SUBSTRING(input, 1, 1) :
0x06
0xF6
0x0F
0xFF
