Я так понимаю, что надо просто выражение написать, а не цифры? Надо от общего количества посещений за три дня отнять количество посещений за два дня и в остатке получим - сколько человек посетило музей в третий день: I день Y умноженное на Z, II день (YZ - 1), значит в III день посетили
X - YZ + (YZ - 1)