Из кассы выдали сначала три восьмых суммы имевшихся в ней денег , потом три пятых...

Пусть изначально в кассе было х тысяч рублей. Сначала из нее выдали 3/8, значит осталось 5/8. Потом из этих 5/8 выдали еще 3/5 и после этого осталось 20 тысяч. Можно составить уравнение:
$\frac{3}8x+\frac{5}8*\frac{3}5x+20=x\\ \frac{3}8x+\frac{15}{40}x+20=x\\ \frac{15}{40}x+\frac{15}{40}x+20=x\\ \frac{30}{40}x+20=x\\ \frac{10}{40}x=20\\ \frac{1}{4}x=20\\ x=80$
Ответ: изначально в кассе было 80 тысяч рублей