Почему умножение выполнено не правильно (10-b)b
Смотря что подразумевается. (10-b)*b = 10b-b^2. Возможно имеется ввиду, что b должно быть перед скобками, т.е. b(10-b)