Преобразуем исходное выражение, выделив полный квадрат: m^2+9mn+n^2 = (m+n)^2+7mn. По условию (m+n)^2+7mn = 11k, где k - целое. Отсюда (m+n)^2 = 11r и 7mn = 11s, где r и s - целые. Из 7mn = 11s следует, что по крайней мере либо m = 11p, либо n = 11t, где p и t - целые. Предположим, что m = 11p, тогда из (m+n)^2 = 11r следует, что и n = 11t. Значит и m и n оба кратны 11, соответственно их сумма m+n и разность m-n также кратны 11. Тогда m^2-n^2 = (m+n)(m-n) = 11f, где f - целое.