"если укладывать в ряд по 11 плиток, то для квадратной площадки плиток не хватает"
Значит плиток меньше, чем 121 штука.
При укладывании по 8 плиток в неполном ряду может быть от 1 до 7 плиток.
При укладывании по 13 плиток в неполном ряду может быть от 1 до 12 плиток.
Нужно найти такие числа меньшие 121, которые при делении на 11, 8 и 13 дают остатки, сумма которых равна 19. Таких чисел несколько: 50, 74, 98 и 115.
50
50:11 = 4 (ост. 6)
50:8 = 6 (ост. 2)
50:13 = 3 (ост. 11)
6+2+11 = 19
74
74:11 = 6 (ост. 8)
74:8 = 9 (ост. 2)
74:13 = 5 (ост. 9)
8+2+9 = 19
98
98:11 = 8 (ост. 10)
98:8 = 12 (ост. 2)
98:13 = 7 (ост. 7)
10+2+7 = 19
115
115:11 = 10 (ост. 5)
115:8 = 14 (ост. 3)
115:13 = 8 (ост. 11)
5+3+11 = 19