Эта задача не имеет однозначного решения, так как в одном уравнении два неизвестных.
mn^2-m^2n=792
Вынесем за скобки mn(n-m) = 792.
Вот несколько решений:
m
14,6868
15
16
17
18
19
20
n
-3,04176
-2,9427
-2,65364
-2,4013
-2,18034
-1,98626
-1,81524
n-m
-17,7286
-17,9427
-18,6536
-19,4013
-20,1803
-20,9863
-21,8152
mn(n-m)
792
792
792
792
792
792
792