МА=b по условию, АС=а√2(так как в основании квадрат, по теореме Пифагора находим диагональ АС). Высота в пирамиде перпендикулярна основанию. Рассматриваем треугольник МАО, где О - центр основания (из него выходит высота). Этот треугольник прямоугольных, тогда найдем косинус угла МАО=АО/МА. АО=1/2*АС=а√2/2. Косинус угла равен (а√2)/(2b). Теперь подставляем в формулу скалярного произведения: а√2*b*a√2/(2b)=2а