Pytanie ,co robię źle bo obliczenia nie wychodzą do końca.

Po pierwsze primo:
Utwierdzenie osi rolki masz tylko przesuwne. Musisz odebrać wszystkie stopnie swobody, bo inaczej jeżeli rolka może się poruszać w przynajmniej jednym kierunku to solverowi wychodzi nieskończenie duże przemieszczenie i dlatego się wykrzacza.
Po drugie primo:
Zadajesz moment na wałek. A nie ma go czym zrównoważyć. Wobec tego rolka obraca się z jakimś tam przyspieszeniem w nieskończoność.

Reasumując:
Przy zadawaniu obciążeń zadbaj o zrównoważenie ich odpowiednimi siłami reakcji - tu utwierdzeniami.