To idąc za sugestią @TOP67 , że masz płytkę 3.0 a nie 3.51 powinieneś zakomentować linię
#define DUAL_AXIS_CONFIG_PROTONEER_V3_51

W config.h zakomentuj linijkę
#define VARIABLE_SPINDLE

Edit: sorry, nie zauważyłem wcześniejszego posta

Klasyczny GRBL nie wspiera Arduino Mega, tylko Uno + klony na ATmega328. Opcja bazowania obustronnego pojawiła się w forku pod adresem https://github.com/gnea/grbl (który bodajże jest teraz oficjalną wersją klasycznego GRBL). Jeśli ściągasz z https://github.com/grbl/grbl to tam jest znacznie starsza, nieaktualna wersja.