Najprawdopodobniej masz źle ustawiony kierunek osi względem tego jak zlicza enkoder. Powoduje to dodatnie sprzężenie zwrotne i oś leci w kosmos aż maksymalny dopuszczalny błąd PID jest przekroczony i wyskakuje błąd. Zmień kierunek osi i sprawdź. Dodatkowo dla uruchamiania maksymalny dopuszczalny błąd możesz ustawić jakiś duży bo nim wystroisz napędy będziesz ciągle ten błąd łapał. Do strojenia ważne jest, abyś napędy miał ustawione "na ostro" tj. szybkie przyspieszenia osi itp. a o kulturę pracy maszyny zadbał po stronie już Mach'a a konkretnie pluginu do csmio.