gdy wywołam ruch 1mm maszyna przesuwa się o 1.02mm. itp

jest to spowodowane przeliczeniem kroku na mm

Tak. Jeśli jest źle przeliczona ilość kroków na jednostkę takie zachowanie jest jak najbardziej słuszne.

Czy mogę to jakoś poprawić

Tak można, prawidłowo policzyć ilość kroków na milimetr.