Dato che stai usando l'alias nei link, devi usare il nome host identico all'alias per accedere al container. Quindi puoi fare una delle seguenti,
usa http://localhost:6379 invece di http://redis:6379 nella tua applicazione Spring Boot
o,
cambia
links:
- "redis:localhost"
a
links:
- "redis"