Пусть х - первое число, тогда (х+3) - второе, третье - (х+(х+3))+11=2х+14.
Составим уравнение
(х+3)^2= х*(2х+14)
х^2+6x+9=2x^2+14x
x^2+8x-9=0
по т. Виета
x1+x2=-8
x1*x2=-9
x1=-9 - не подходит по условию (числа натуральные), х2=1
Пояснение: значок ^ возведение в степени
первое число - 1, второе - 4, третье - 16, значит их сумма равна 1+4+16=21
ответ 21