Решайте через векторное произведение векторов.
| i j k |
a*b = | 2 2 - 1 | - это определитель
| 3 - 2 6 |
a*b = | 2 - 1| * i + | 2 - 1| * j + | 2 2 | * k =
| - 2 6| | 3 6 | | 3 -2 |
= 10 i - 15 j - 10 k или вектор 2i - 3j - 2k
теперь можете проверить, скалярное произведение
этого вектора с вектором a и вектором b должно быть равно нулю