Se stai usando il pacchetto PyPi django-celery-beat sembra che installi la versione più recente del pacchetto richiesto celery invece di installare una versione compatibile (quando lo pubblicherò, il 25 maggio 2021 sarebbe v5.1.0 ), che sembra avere problemi di compatibilità con django-celery-beat versione 2.2.0 (il più recente) così come il sistema operativo Windows.
Ti consiglio di provare
pip uninstall celery
pip install celery==5.0.5