Nie mam doświadczenia z ploterami, pracuję na frezarkach, nie podałeś dokładnych parametrów pracy i samego freza, ale:
1 - wjazd freza pionowo w dół - powinien być po kącie 2-5° - zależy od freza
2- przy średnicy freza VHM Φ12 do stali - obroty do 1-go ustawienia to ok. 2,5-3 k obr/min - najlepiej sprawdzić, posuw 500-1000, na filmie na oko jest za mały, no ale ploter może nie wydolić.

Problemem może być brak sztywności samego plotera, wrzeciona ploterów mają zbyt mały moment przy niskich obrotach i są problemy ze stosowaniem frezów o większych średnicach. Być może lepiej sprawił by się frez Φ8? Można spróbować jechać dużo szybciej mniejszą warstwą (ap), np 0,2mm - chodzi mi o samą blachę. Spróbowałbym dużo szybciej pojechać samą blachę na 2 lub właśnie 3 razy z wjazdami w stal po kącie. Niemniej jednak nie ręczę, że moje propozycje przyniosą ci sukces, nie ma innej drogi jak próby. Może tego posta przeczyta ktoś kto frezuje drzwi to podpowie ci coś sprawdzonego - miałbyś wtedy sprawę załatwioną.