Małe silniki mają małą indukcyjność. Można je zasilać niższym napięciem.
Duże mają dużą indukcyjność i wymagają wyższego napięcia. Zwiększ je, przynajmniej do 24V i przetestuj.
Możliwe, że przy małym prądzie działa praktycznie jeden L298, któremu trafiły się najlepsze klucze tranzystorowe. Przy wyższych prądach dołączają się pozostałe dwa i wprowadzają chaos.
Załóż obciążenie silnika w postaci śruby lub nawiń na jego oś kilka zwojów sznurka z ciężarkiem, tłumik, coś co da obciążenie.

Mam rozumieć, że silnik zasilasz napięciem 12V o wydajności prądowej 37,5A?
Jakie jest napięcie nominalne silnika?
L298 jest strukturą złączową, w związku z czym nie zawiera tranzystorów, których bramki należy "próżniać".
Elementy elektroniczne mogą uszkodzić się znacznie szybciej, zanim zadziałają nawet najszybsze bezpieczniki topikowe.

Jedyną metodą na sprawdzenie układu jest wylutowanie jednego z L298 i sprawdzenie, czy sterownik działa poprawnie do 4A. Jeśli problem wystąpi w dalszym ciągu, trzeba wylutować drugi układ i sprawdzić do 2A. Ostrożnie z regulacją prądu, gdyż bocznik ma 3 razy mniejszą oporność.

Nie jest wykluczone uszkodzenie jednego z układów w tym sensie, że nie działa jedna gałąź mostka. Zanim zaczniesz "pruć" układy sprawdź czy potencjometr płynnie zmienia rezystancję w całym zakresie.

Czy kolega wood carver pamięta ten temat?

https://www.cnc.info.pl/topics12/3352.htm

Jakie napięcie i jaki silnik (parametry) podłączony jest do tego sterownika?

Czy silnik jest zainstalowany w maszynie, czy leży na stole?

Jeśli leży na stole może wytąpić takie zjawisko. Silnik trzeba obciążyć przynajmniej inercją.

Może brakować mocy z zasilacza.

W pracy półkrokowej (nie mylić z mikrokrokiem 1/2) jest moment, kiedy przez obie cewki silnika płynie prąd znamionowy, później przez jedną itd.