Puoi sbarazzartene codificando in modo esplicito in modo da poter utilizzare errors="replace"
o ignore
I byte risultanti non saranno belli ma verranno registrati.
logging.error("Exception: " + str(ex.args[1].encode(encoding='charmap', errors='replace')))