У вас опечатка, по алгебре нужно взять 3 учебника.
По алгебре было х учебников, а по геометрии 2/5*x = 0,4x.
Если взять 3 учебника по алгебре и добавить 6 по геометрии, то будет
x - 3 = 0,4x + 6
x - 0,4x = 3 + 6
0,6x = 9
x = 9/0,6 = 90/6 = 15.
Тогда по геометрии 0,4*15 = 6 учебников.