найти объём правильной шестиугольной призмы со стороной основания "a" и большей...

Большая диагональ призмы входит в прям. тр-ик с катетами, равными большой диагонали 6-ника основания (равна двум сторонам 6-ника) и высоте призмы h. Отсюда высота призмы:

$h=\sqrt{b^2-4a^2}.$

Площадь основания складывается из 6-и площадей правильных треугольников со стороной а:

Sосн = $6*\frac{a^2\sqrt{3}}{4}=\frac{3a^2\sqrt{3}}{2}.$

Тогда объем призмы:

$V=\frac{3a^2\sqrt{3}}{2}\sqrt{b^2-4a^2}.$