M(CuSO4)= 64 +32 + 16*4 = 160 г/моль
M(H2O) = 18 г/моль
Найдем массу CuSO4 в кристаллогидрате
m(CuSO4) = 40 * 160 / (160 + 5*18) = 25,6 г
m(H2O) = 40 - 25,6 = 14,4 г
m(CuSO4)р = 1000 * 0.17 = 170 г
Пусть масса 3% р-ра - х , тогда 40% - (1000 - 40 - х), составим уравнение
0,03 * x + (960 - x) * 0,4 + 25,6 = 170
-0,37 *x = 170 - 25,6 - 384
0,37 *x = 239,6
x = 647,6 г
Вычисления лучше перепроверить