Mysql
 sql >> Database >  >> RDS >> Mysql

Errore di flusso d'aria da mysql a gcp Dag

Secondo il tuo traceback, il tuo codice si sta rompendo su questo punto . Come puoi vedere, elabora il codice:

json.dump(row_dict, tmp_file_handle)

tmp_file_handle è un NamedTemporaryFile inizializzato con input di default args, cioè simula un file aperto con w+b mode (e quindi accetta solo dati simili a byte come input).

Il problema è che in Python 2 tutte le stringhe sono byte mentre in Python 3 le stringhe sono testi (codificati per impostazione predefinita come utf-8 ).

Se apri un Python 2 ed esegui questo codice:

In [1]: from tempfile import NamedTemporaryFile
In [2]: tmp_f = NamedTemporaryFile(delete=True)
In [3]: import json
In [4]: json.dump({'1': 1}, tmp_f)

Funziona bene.

Ma se apri un Python 3 ed esegui lo stesso codice:

In [54]: from tempfile import NamedTemporaryFile
In [55]: tmp_f = NamedTemporaryFile(delete=True)
In [56]: import json
In [57]: json.dump({'1': 1}, tmp_f)
---------------------------------------------------------------------------
TypeError                                 Traceback (most recent call last)
<ipython-input-57-81743b9013c4> in <module>()
----> 1 json.dump({'1': 1}, tmp_f)

/usr/local/lib/python3.6/json/__init__.py in dump(obj, fp, skipkeys, ensure_ascii, check_circular, allow_nan, cls, indent, separators, default, sort_keys, **kw)
    178     # a debuggability cost
    179     for chunk in iterable:
--> 180         fp.write(chunk)
    181 
    182 

/usr/local/lib/python3.6/tempfile.py in func_wrapper(*args, **kwargs)
    481             @_functools.wraps(func)
    482             def func_wrapper(*args, **kwargs):
--> 483                 return func(*args, **kwargs)
    484             # Avoid closing the file as long as the wrapper is alive,
    485             # see issue #18879.

TypeError: a bytes-like object is required, not 'str'

Riceviamo lo stesso errore del tuo.

Ciò significa che Airflow non è ancora completamente supportato per Python 3 (come puoi vedere in test di copertura , il modulo airflow/contrib/operators/mysql_to_gcs.py non è ancora testato né in Python 2 né in 3). Un modo per confermarlo sarebbe eseguire il codice usando Python 2 e vedere se funziona.

Consiglierei di creare un problema su loro JIRA richiesta di portabilità per entrambe le versioni di Python.