Закон Кулона говорит о том, что заряды взаимодействуют друг с другом с силой, пропорциональной произведению их зарядов и обратно пропорциональной квадрату расстояния между ними.
Одноименные заряды отталкиваются, разноименные притягиваются.
Вектор результирующей силы будет векторной суммой чтырех сил. Теперь поймем направление этих сил. Нас не интересует как взаимодействуют положительные заряды в вершинах квадрата. Нас интересуют только силы между +q и -Q.
Оси координат можно выбрать проходящими наискосок под углом 45гр с центром в точке заряда -Q.
Видно, что задача симметрична, то есть все четыре расстояния между нашими зарядами +q и -Q одинаковы. Значит и силы будут компенсировать друг друга. Ответ F=0.