Cześć,
Problem z 500 linijek dotyczy wersji demonstracyjnej, masz niepoprawnie wgranego cracka. Ważna jest kolejność instalacji:
1. Zainstaluj program Mach3
2. Skopiuj plik mach1lic.dat
3. Zrestartuj komputer !!!
4. Uruchom Macha

Jeżeli masz już zainstalowaną wersję demo musisz najpierw ją odinstalować i ręcznie usunąć sterowniki.
1. Odinstaluj Mach 3 z panelu sterowania
2. Znajdź lokalizację C:\Windows\system32\drivers\Mach3.sys i usuń plik Mach3.sys
3. Prawym przyciskiem na Mój komputer -> Ustawienia -> Menadżer urządzeń znajdź sterowniki do Mach 3 i je usuń
4. Zrestartuj komputer
PAMIĘTAJ ŻE MOŻESZ UŻYWAĆ TAKIEJ WERSJI TYLKO DO CELÓW NIEKOMERCYJNYCH!!!

Błąd który podałeś na zdjęciu dotyczy raczej złego preprocesora. Spróbuj użyć wbudowanych Wizardów do frezowania koła i zobacz czy problem wystąpi, one działają na pewno. Ja też używam frezarki marketowej i obroty to 24k posów 150 - 200 mm/min zagłębienie 1mm ale ja mam wiotką maszynkę i słabe sterowniki. Czasem jak oś Z nie jest sztywna w płaszczyźnie yz może ją ściągać zależnie od kierunku obrotów wrzeciona. Nie zakładaj że luzów nie ma sprawdź dokładnie pod zegar.
Ja do tworzenia gcodów używam VisualMill ma wbudowaną wtyczkę do Mach3
pozdro