М=а^2-7аб+8б^2+4аб-3б^2 приводим подобные члены, получаем
М=а^2-3аб+5б^2.
Проверка:
в левую часть вместо М, подставляем получившиеся выражение.
а^2-3аб+5б^2-4аб+3б^2=а^2-7аб+8б^2
а^2-7аб+8б^2=а^2-7аб+8б^2
Хм, думаю, что можно было и в интернете поискать ;)