do sterownika ma podejść 6

i tu chyba robisz błąd, do UHU idą 4 przewody enkodera, jeśli kolory się zgadzają to:
-czerwony to + zasilanie
- czarny - zasilanie
- zielony/zółty to sygnały A i B, (jak silnik waruje to zamieniasz sygnały A i B miedzy sobą, albo zamieniasz zasilanie silnika)

Sprawdź tak czy działa i daj znać.

Nie wiem tylko jak enkoder będzie się zachowywał jak są nie obciążone negacje sygnałów.
Jak zadziała to będziesz musiał dać mały układzik żeby z różnicowego zrobić "zwykle"

Czasem zachowuje się tak, jak zamienisz miejscami sygnały A i B miejscami.

Jak masz nawet zwykły multimetr można sprawdzić czy enkoder działa prawidłowo.

Uważaj, jak zamienisz "+" z "-" w enkoderze, to już przeważnie już po nim...

PS, z tego co widzę ciebie interesuje tylko przewód zielony i żółty + (czerwony i czarny - zasilanie)