Запишем второй закон ньютона для обоих тел. Пусть известная масса M, неизвестная масса m
0 = Mg\sin\alpha - \mu N - T\\
0 = N - Mg\cos\alpha\\
0 = T-mg
1 строчка - проекция сил вдоль плоскости (на груз, лещащий на
плоскости)
2 строчка - проекция сил перпендикулярно плоскости (на груз, лещащий на плоскости)
1 строчка - проекция сил на вертикальную ось (на висящий груз)
Отсюда
0 = Mg\sin\alpha - \mu M g\cos\alpha - mg\\
m = M(\sin\alpha-\mu\cos\alpha) = 3(\sqrt{3}/2-0.5\cdot0.3) \approx 2.15
Ответ 2.15 кг