Тут дело не в алгебре, а в физике.
Смотрите.
Часть кинетической энергии бруска
T₁ = mU²/2
потрачена на работу силы трения A. К тому времени, когда брусок остановился и уже не скользит с трением по доске, доска, вместе с лежащим на ней бруском, перемещается равномерно со скоростью u и обладает кинетической энергией
T₂ = (m+M)u²/2
Работа (или, что численно то же самое - тепло, в которое в процессе работы диссипировала часть начальной кинетической энергии бруска) и определяется из закона сохранения полной энергии:
T₁ = T₂ + Q
или
Q = A = T₁ - T₂ = mU²/2 - (m+M)u²/2 (1)
Для определения величины неизвестной (из данных задачи) конечной скорости системы доска+брусок - u - необходимо применить закон сохранения импульса:
mU = (m + M)u из которого следует, что
u = mU/(m + M).
Подставив это выражение в (1) Вы и получите выражения для искомой работы сил трения A:
A = mU²/2 - (m+M)(mU/(m + M))²/2 = mU²/2 +(m+M)m²U²/(2(m + M)²) =
= mU²/2 +m²U²/(2(m + M)) = mU²(1 - m/(m + M))/2 =
= mU²((m + M - m)/(m + M))/2 = mMU²/(2(m+M))
A = mMU²/(2(m+M)),
в которое выражение входят все исходные данные задачи:
A = 0.6*1*9/(2*1.6) = 1.6875 Дж
PS
Физика - это не формулы. А явления, описываемые математическим языком. А будете понимать смысл явлений - формулы получатся сами, никуда они не денутся...