Redis
 sql >> Database >  >> NoSQL >> Redis

Confronto del numero a 64 bit con segno utilizzando operazioni a 32 bit in Lua

Ho trovato un metodo che sembra funzionare. È un po' brutto però.

Il primo passaggio consiste nel confrontare i primi 32 bit mentre il bit del segno MSB di 2 complimenti # rimane, in modo che i numeri mantengano relazioni corrette

-1  —> -1
0 —> 0
9223372036854775807 = 0x7fff ffff ffff ffff -> 0x7ffff ffff = 2147483647

Quindi, restituendo il risultato delle opere dell'MSB a meno che non siano uguali, è necessario che l'LSB venga controllato.

Ho alcuni casi per stabilire alcuni schemi:

-1 = 0xffff ffff ffff ffff
-2 = 0xffff ffff ffff fffe
32 bit is:
-1 -> 0xffff ffff = -1
-2 -> 0xffff fffe = -2
-1 > -2 would be like -1 > -2 : GOOD

E

8589934591 = 0x0000 0001 ffff ffff
8589934590 = 0x0000 0001 ffff fffe
32 bit is:
8589934591 -> ffff ffff = -1
8589934590 -> ffff fffe = -2
8589934591 > 8589934590 would be -1 > -2 : GOOD

Il bit del segno sugli MSB non ha importanza b/c i numeri negativi hanno la stessa relazione tra loro dei numeri positivi. ad esempio, indipendentemente dal bit di segno, i valori lsb di 0xff> 0xfe , sempre.

E se l'MSB sui 32 bit inferiori fosse diverso?

0xff7f ffff 7fff ffff = -36,028,799,166,447,617
0xff7f ffff ffff ffff = -36,028,797,018,963,969
32 bit is:
-..799.. -> 0x7fff ffff = 2147483647
-..797.. -> 0xffff ffff = -1
-..799.. < -..797.. would be 2147483647 < -1 : BAD!

Quindi dobbiamo ignorare il bit del segno sui 32 bit inferiori. E poiché le relazioni sono le stesse per gli LSB indipendentemente dal segno, il solo utilizzo dei 32 bit più bassi senza segno funziona per tutti i casi.

Ciò significa che voglio firmato per gli MSB e non firmato per gli LSB, quindi cambiare I4 a i4 per le LSB. Rendendo anche ufficiale il big endian e usando '>' nelle chiamate struct.unpack:

-- ...
local comp_int64s = function (as0, au1, bs0, bu1)
    if as0 > bs0 then
        return 1
    elseif as0 < bs0 then
        return -1
    else
        -- msb's equal comparing lsbs - these are unsigned
        if au1 > bu1 then
            return 1
        elseif au1 < bu1 then
            return -1
        else
            return 0
        end
    end
end
local l, as0, au1, bs0, bu1
as0, l = bit.tobit(struct.unpack(">i4", ARGV[1]))
au1, l = bit.tobit(struct.unpack(">I4", ARGV[1], 5))
bs0, l = bit.tobit(struct.unpack(">i4", blob))
bu1, l = bit.tobit(struct.unpack(">I4", blob, 5))
print("Cmp result", comp_int64s(as0, au1, bs0, bu1))