K = 17 - 4p
5k(3k - p) = 5(17 - 4p)(3(17-4p) - p) = 5(17 - 4p)(51 - 13p) =
= 5*4*13p^2 - p(5*4*51 + 5*17*13) + 5*17*51 = 260p^2 - 2125p + 4335
Если k и p должны быть натуральными числами, то
k + 4p = 17
p=4; k=1; 5k(3k - p) = 5(5 - 4) = -5
p=3; k=5; 5k(3k - p) = 25(15 - 3) = 25*12 = 300
p=2; k=9; 5k(3k - p) = 45(27 - 2) = 45*25 = 1125
p=1; k=13; 5k(3k - p) = 65(39 - 1) = 65*38 = 2470