в числителе формула ---разность квадратов:
(5а - (а+3))*(5а + (а+3)) = (4а - 3)(6а + 3)
в знаменателе вынести общий множитель:
( 3*(4а - 3) )^2 = 9*(4a - 3)^2
скобка (4а - 3) сократится...
останется: (6а + 3) / (9(4а - 3)) = 3(2а + 1) / (9(4а - 3)) = (2а + 1) / (3(4а - 3))