Пусть х - кол-во книг на первой полке. тогда 3х - кол-во книг на второй полке, 3х-2 - кол-во книг на третьей полке. Т.к. на трех полках всего 96 книг, то составляем уравнение:
х+3х+3х-2=96
7х-2=96
7х=96+2
7х=98
х=98:7
х=14(к.) - на первой полке
14х3=42(к.) - на второй полке
42-2=40(к.) - на третьей полке