Если стороны прямоугольника а и b, то имеем систему уравнений:
2(a+b)=20
ab=24
Выразим а из первого уравнения.
2(a+b)=20
a+b=10
a=10-b
Подставим во второе.
b(10-b)=24
-b²+10b-24=0
b²-10b+24=0
По теореме Виета, корни данного уравнения b₁=4 и b₂=6.
Корню b₁=4 соответствует значение а₁=6 (а=10-b); корню же b₂=6 соответствует значение а₂=4.
Следовательно, стороны данного прямоугольника - 4 см и 6 см.
Данная задача, в принципе, с ходу решается подбором (причем именно тем, которым мы занимались используя теорему Виета). Но такое вот решение используется для общего случая.