Вообще если дискриминант получается отрицательным, то ты должен написать "корней нет", но в данном случае они есть:
x^2-6x+5=0
a=1 b=-6 c=5
D=b^2-4ac=36-4*1*5=36-20=16
вобщем корни сам найдёшь, здесь трудно напечатать)))
вот такие должны получиться
x1=5
x2=1