Рассуждения у вас правильные - но не доведено, начнем с этого места
x²-8x<0 x(x-8)<0<br>---------- 0------------------------------------- 8---------------------
+ - +
x∈(0;8) область определения (x-3)(x-5)>0
------------------------ 3----------------5--------
+ - +
--------------0---------------------------------------8
в итоге подходят участки от 0 до 3 и от 5 до 8
x∈(0;3)∨(5;8)