Отношение площадей подобных фигур ( не только многоугольников) равно квадрату коэффициента их подобия.
Пусть коэффициент подобия будет k
Тогда S1:S2=k²
k²=9/10
Пусть периметр одного многоугольника будет Р, второго Р+10
Тогда
Р²:(Р +10)²=9/10
Р²*10=9(Р²+20Р+100)
Р²-180Р-900=0
D=b²-4ac=-180²-4·(-900)=36000
Р=(180+√36000):2=90-60√10
Р+10=90-60√10+10=100-60√10
Ответ не очень красивый, но из данного отношения другого не получить.