12.041 (см. рис.)
BD параллельно ребру основания и равно a. Проведём к BD высоту AC. Треугольник ABC прямоугольный, угол B = 45 градусов.
По определению тангенса
tgB = AC/BC
AC/BC = 1
AC=BC
По условию задачи BC = (a-b)/2.
Тогда объём усечённой пирамиды
V = 1/3*(a-b)/2*(a^2+√(ab)+b^2)