Обозначим z=x+yi, тогда ~z=x-yi.
a=-2+2i; b=5-5i; c=-17-11i.
az+b~z=c
(-2+2i)(x+yi)+(5-5i)(x-yi)=-17-11i
-2x+2xi-2yi-2y+5x-5xi-5yi-5y=-17-11i
(3x-7y)+(-3x-7y)*i=-17-11i
Получаем систему
3x-7y=-17
-3x-7y=-11
Складываем уравнения
-14y=-28; y=2
3x=7y-17=14-17=-3; x=-1
z=-1+2i
Квадрат модуля равен
|z|^2=(-1)^2+2^2=1+4=5