Penso che il problema nella tua query sia che tahun_buku è di datatype int e stai cercando di selezionare una string vuota ('' ).
Devi trovare soluzioni alternative:
Cambia tahun_buku essere varchar (2010,2012..saranno considerati come stringhe non so se va bene)
Imposta:
select case when t1.tahun_buku=t2.tahun_buku then null else t1.tahun_buku end tahun_buku,t1.judul_buku
from tbl_buku t1 left join tbl_buku t2
on t1.id_buku-1=t2.id_buku;
