Упростите выражение . . .
(sin^2(2a)-cos^2a)/cosa = 4*sin^2a*cos^2a/cosa - cosa = 4*sin^2a*cosa-cosa = cosa*(4*sin^2a-1) = cosa*(3-4*cos^2a) = -cos3a